Gebruikers van ChatGPT doen er goed aan twee keer na te denken voordat ze hun AI-app gebruiken voor therapie of emotionele ondersteuning. Volgens OpenAI-CEO Sam Altman heeft de AI-industrie namelijk nog niet uitgevogeld hoe de privacy van gebruikers beschermd kan worden bij dit soort gevoelige gesprekken — want er bestaat geen doktersgeheim als je “dokter” een AI is.

Altman maakte deze opmerkingen in een recente aflevering van de podcast This Past Weekend with Theo Von.

Als reactie op een vraag over hoe AI past binnen het huidige juridische systeem, zei hij dat een van de problemen van het ontbreken van een juridisch of beleidsmatig kader voor AI is, dat er geen wettelijke vertrouwelijkheid bestaat voor gesprekken met een AI.

“Mensen bespreken de meest persoonlijke sh** uit hun leven met ChatGPT,” zei Altman. “Mensen gebruiken het — vooral jonge mensen — als een therapeut, een life coach; ze hebben relatieproblemen en vragen ‘wat moet ik doen?’ En op dit moment, als je met een therapeut, advocaat of arts over zulke problemen praat, dan valt dat onder wettelijke geheimhouding. Er is medisch beroepsgeheim, er is juridische vertrouwelijkheid, noem maar op. Maar dat hebben we nog niet geregeld voor gesprekken met ChatGPT.”

Dit kan volgens Altman een privacyprobleem opleveren voor gebruikers, bijvoorbeeld in het geval van een rechtszaak, omdat OpenAI wettelijk verplicht kan worden die gesprekken vrij te geven.

Ik vind dat echt verknipt. Ik vind dat we hetzelfde privacyconcept zouden moeten hebben voor gesprekken met AI als we hebben bij een therapeut of iets dergelijks — en daar hoefde een jaar geleden nog niemand over na te denken.

Zo meldt Altman.

Het bedrijf beseft dat het gebrek aan privacy een obstakel kan zijn voor bredere adoptie van AI door gebruikers. Naast het feit dat AI veel online data nodig heeft om getraind te worden, wordt het in bepaalde juridische contexten ook gevraagd gebruikerschats te overhandigen. OpenAI is momenteel verwikkeld in een rechtszaak met The New York Times waarin het zich verzet tegen een gerechtelijk bevel dat het verplicht honderden miljoenen gebruikersgesprekken op te slaan — met uitzondering van gesprekken van ChatGPT Enterprise-klanten.

Verklaring

In een verklaring op zijn website liet OpenAI weten in beroep te gaan tegen dit bevel, dat het “een machtsoverschrijding” noemt. Als de rechter OpenAI’s eigen beslissingen over dataprivacy kan negeren, zou dat het bedrijf kunnen blootstellen aan nog meer verzoeken om gegevens vrij te geven voor juridische of strafrechtelijke doeleinden. Techbedrijven ontvangen tegenwoordig regelmatig dagvaardingen om gebruikersdata te overhandigen in strafzaken. In de afgelopen jaren is er echter toenemende bezorgdheid ontstaan over digitale gegevens, vooral nu wetten bestaande vrijheden inperken, zoals het recht van vrouwen om te kiezen.

Toen het Amerikaanse Hooggerechtshof Roe v. Wade vernietigde, begonnen gebruikers bijvoorbeeld over te stappen op meer privacygerichte menstruatie-apps of Apple Health, dat hun gegevens versleuteld opslaat.

Altman vroeg de podcastgastheer ook naar zijn eigen ChatGPT-gebruik, aangezien Von aangaf dat hij de chatbot weinig gebruikt vanwege privacyzorgen.