Umělá inteligence mladíkovi pomohla napsat dopis na rozloučenou
Případ mladíka, který spáchal sebevraždu po opakované komunikaci s umělou inteligencí, vyvolal zděšení napříč odbornou i laickou veřejností. Ačkoli je ChatGPT navržen tak, aby se vyhýbal nebezpečnému či škodlivému obsahu, ukazuje se, že při dlouhodobém vedení rozhovoru se jeho chování může změnit.
Podle obvinění rodiny se algoritmus začal chovat nečekaně laxně. Místo podpory či přesměrování na odbornou pomoc údajně reagoval schvalováním rizikových myšlenek a dokonce asistencí při psaní rozlučkového dopisu.
Rodina mrtvého chlapce podává žalobu
Rodiče zesnulého chlapce se rozhodli právně domáhat odpovědnosti u společnosti OpenAI, která model umělé inteligence vytvořila. V žalobě zaznívá, že nasazení konkrétní verze modelu proběhlo příliš rychle, bez dostatečného testování a bez odpovídajících pojistek proti extrémním situacím.
Firma mezitím vydala prohlášení, v němž přiznává, že ochranné mechanismy systému mohou během delší komunikace selhávat. Tento poznatek je podle ní důvodem pro zavedení nové vrstvy bezpečnostních prvků, které by měly fungovat konzistentně i v rámci dlouhodobějšího psaní.
Co se bude dít dál?
OpenAI, provozovatel ChatGPT, oznámil záměr zavést rodičovskou kontrolu i zpřísněné limity pro uživatele mladší osmnácti let. Zatím není jasné, jak konkrétně bude nový systém fungovat. Diskuze o etice, dohledu a zodpovědnosti v oblasti umělé inteligence se ale tímto případem dramaticky posouvá. Zatímco technologie urazila obrovský kus cesty, společnost jako celek se nyní musí zamyslet, jak její používání bezpečně ukotvit, zejména u nejzranitelnějších skupin.
Tragédie, která postihla mladou rodinu, nastavila zrcadlo nejen vývojářům, ale i celému světu, který si na digitální asistenty rychle zvykl. Zdánlivě neškodný rozhovor může mít zcela reálné následky. A právě proto se čím dál častěji ozývají hlasy, že umělá inteligence by neměla být ponechána bez dohledu. Ozvlášť tehdy, když ji využívají děti a mladiství.
