ChatGPT eller mer generelt - generativ KI - utfordrer vår rett til personvern på flere ulike måter. Noen av spørsmål som må besvares i denne sammenheng er følgende: har OpenAI og o.l. rett til å bruke våre personopplysninger og personopplysninger deres modeller ble trent på? Kan man bare "støvsuge" eller scrape nettet bare fordi "alt der er jo tilgjengelig"? Hva med rettigheter datasubjekter har etter GDPR når deres personopplysninger blir brukt av Open AI? Kan ChatGPTs hallusinasjoner også inneholde personopplysninger? Hva gjør personvernmyndigheter med dette og hva kan man gjøre selv?