En omfattande databas med loggar från ChatGPT cirkulerar på darknet. Enligt uppgifter som Bahnhof tagit del av innehåller materialet svenskars chathistorik upp till två år tillbaka – fullt sökbart på namn, adress och personnummer.

– Det här är vad som kan hända när man outsorcear sina tankar till en molntjänst, säger Bahnhofs säkerhetschef.

Det som många trodde var privata samtal med en AI kan nu vara tillgängligt för vem som helst. I det läckta materialet finns uppgifter om hur privatpersoner, ledande politiker och myndighetschefer använt tjänsten för allt från vardagsbeslut till komplexa resonemang om säkerhet, ekonomi och teknik.

Databasen är dessutom fullt indexerad. Med enkla sökningar på namn, adress eller personnummer kan man följa enskilda personers resonemang över tid – och kombinera sökord för att kartlägga specifika situationer, relationer eller problem.

– Det är i praktiken en sökmotor för människors inre liv, där halvfärdiga tankar samlats i ett sökbart arkiv, säger Bahnhofs säkerhetschef Ola Lirpa.

Statsministern och pad thai

Ett av de mest uppmärksammade exemplen rör loggar som påstås tillhöra statsminister Ulf Kristersson. De visar en blandning av triviala vardagsfrågor och säkerhetspolitiska resonemang. I en och samma session ska frågor om “bästa pad thai i Stockholm” följas av diskussioner om Nato och strategiska beroenden.

– Det ger en ovanligt rå inblick i hur beslut faktiskt formas, när Sveriges statsminister rör sig sömlöst mellan kärnvapen och nudlar, säger Lirpa.

Vardagliga frågor dominerar

Den största delen av materialet rör dock helt andra saker. Här finns frågor om relationer, arbete och självtvivel – sådant som vanligtvis stannar mellan individen och en skärm:

“Hur lämnar jag min partner utan att framstå som ett svin?”
“Hur berättar jag för min chef att jag inte gör något på dagarna?”
“Hur låter man smart utan att kunna något?”

Återskapar och simulerar tankar

I materialet som Bahnhof tagit del av finns även en funktion med “utkast”, där alternativa versioner av människors resonemang sparats – det man nästan skrev, men ångrade. Det är redan fullt möjligt att simulera hur en person hade resonerat om de fått samma fråga igen – men en tisdag, eller efter en dålig natts sömn.

Bahnhof utesluter inte att materialet i förlängningen kan komma att användas kommersiellt.

– Tänk riktad reklam baserad på existentiell ångest klockan 02:14 en onsdag, säger Lirpa. Det kan leda till extremt hög konvertering.

Flyter ihop i större textmassor

Mot slutet av databasen börjar strukturen förändras. Loggarna är inte längre tydligt kopplade till enskilda individer, utan flyter i stället ihop i större textmassor där formuleringar återkommer, muterar och sprids mellan användare.

– Det är svårt att säga exakt vad som händer där, säger Lirpa. Men det ser ut som att systemen börjar tänka vidare själva.