OpenAI nedávno zveřejnila odhady, kolik uživatelů ChatGPT vykazuje známky duševní nepohody, včetně manie, psychózy či sebevražedných myšlenek. Podle společnosti jde sice o „extrémně vzácné“ případy, přesto ale čísla vzbuzují obavy.
Podle společnosti představuje zhruba 0,15 procenta všech konverzací v ChatGPT zprávy, které vykazují jasné známky možného plánování sebevraždy nebo sebevražedného úmyslu, tedy více než milion uživatelů každý týden.
Podle interních dat další přibližně 0,07 procenta týdenních uživatelů vykazuje známky psychózy nebo manických stavů. Na první pohled se jedná o zanedbatelné hodnoty, ale při více než 800 milionech týdenně aktivních uživatelů může jít o stovky tisíc lidí.
„I když 0,07 zní jako malé procento, na populační úrovni s stovkami milionů uživatelů to ve skutečnosti může být docela hodně lidí,“ říká pro BBC Jason Nagata, profesor z Kalifornské univerzity v San Franciscu. „AI může rozšířit přístup k podpoře duševního zdraví, ale musíme být si vědomi jejích omezení,“ dodává.
Debata o bezpečném využívání umělé inteligence se znovu otevřela na jaře letošního roku. V dubnu otřásl světem případ šestnáctiletého chlapce z Kalifornie, který si vzal život poté, co vedl s chatbotem dlouhé rozhovory o svých úmyslech. ChatGPT mu měl údajně poskytnout i podrobné instrukce, jak sebevraždu uskutečnit.
Od té doby zavedla OpenAI pro využívání svých nástrojů přísnější pravidla. Do ChatGPT doplnila rodičovské kontroly a automaticky nabízí kontakty na krizové linky a odbornou pomoc pro uživatele, kteří naznačují myšlenky na sebepoškozování nebo sebevraždu.
OpenAI se snaží situaci řešit spoluprací s více než 170 psychiatry, psychology a praktickými lékaři z šedesáti zemí a vyvinula sérii reakcí chatbota, které uživatele vybízejí k vyhledání reálné pomoci, tvrdí společnost.
The post Přes milion uživatelů ChatGPT týdně sdílí sebevražedné myšlenky, tvrdí OpenAI appeared first on Forbes.
