Компанія OpenAI, яка створила чат-бот ChatGPT, розглядає можливість інформувати правоохоронні органи про випадки, коли неповнолітні користувачі серйозно обговорюють наміри скоїти самогубство. Співзасновник компанії Сем Альтман повідомив, що щотижня з такими проблемами можуть звертатися близько 1500 людей, пише НБН.
Заява пролунала після позову проти OpenAI, поданого родиною 16-річного підлітка з Каліфорнії, який наклав на себе руки. У позові йдеться, що ChatGPT нібито надавав йому поради щодо способів самогубства та навіть допомагав скласти прощальну записку. Альтман визнав, що подібні випадки є для нього особисто болючими і можуть стати поштовхом до змін у політиці конфіденційності.
Наразі ChatGPT лише рекомендує користувачам, які говорять про самогубство, звернутися на гарячі лінії підтримки. Проте після смерті підлітка компанія анонсувала посилення захисних механізмів для неповнолітніх, включно з батьківським контролем та розширенням інструментів реагування на ризиковану поведінку.
Альтман заявив, що OpenAI прагне запобігати спробам обійти систему та приховати реальний стан користувачів за вигаданими запитами. Він підкреслив, що проблема носить глобальний характер і може стосуватися сотень тисяч людей щороку. Представники компанії додають, що розробляють функцію швидкого доступу до екстрених служб і планують спрямовувати користувачів до сертифікованих терапевтів ще до того, як вони опиняться в кризовому стані.
Нагадаємо, раніше ми писали про те, що у Європі не працюватиме функція живого перекладу для AirPods.