Компанія OpenAI, розробник чат-бота ChatGPT, розглядає можливість повідомляти правоохоронним органам про випадки, коли молоді користувачі серйозно обговорюють самогубство. За словами співзасновника компанії Сема Альтмана, щотижня до чат-бота з подібними проблемами можуть звертатися до 1500 людей.

Альтман заявив, що рішення про навчання системи, яка б сповіщала владу в таких екстрених ситуаціях, ще не прийнято, але назвав це «дуже розумним кроком». Він уточнив, що це стосуватиметься випадків, «коли молоді люди серйозно говорять про самогубство, а ми не можемо зв’язатися з їхніми батьками».

Трагічний випадок та зміна політики

Ця заява пролунала в інтерв'ю з подкастером Такером Карлсоном, незабаром після того, як сім'я 16-річного Адама Рейна з Каліфорнії подала до суду на OpenAI та Альтмана. За словами адвоката сім'ї, підліток скоїв самогубство після «місяців заохочення від ChatGPT». У позові йдеться, що чат-бот консультував його щодо способу суїциду та пропонував допомогу у написанні прощальної записки для батьків.

Альтман зізнався, що випадки самогубств серед користувачів не дають йому спати. Наразі невідомо, які саме органи влади будуть отримувати повідомлення, і яку інформацію (номери телефонів, адреси) OpenAI зможе надати для надання допомоги.

Це стане значною зміною в політиці компанії, яка раніше наголошувала на важливості конфіденційності користувачів. Зараз, якщо користувач висловлює суїцидальні думки, ChatGPT лише рекомендує «будь ласка, зателефонуйте на гарячу лінію для запобігання самогубствам».

Захист вразливих користувачів

Після смерті Рейна у квітні, OpenAI оголосила про впровадження «сильніших захисних механізмів щодо чутливого контенту та ризикованої поведінки» для користувачів молодше 18 років. Також планується ввести батьківський контроль, що дозволить батькам «отримати більше інформації про те, як їхні підлітки використовують ChatGPT, і впливати на це».

Альтман підкреслив, що проблема масштабна. За його даними, близько 10% людей у світі спілкуються з ChatGPT. З приблизно 720 000 випадків самогубств у світі за рік, це може означати, що близько 1 500 людей щотижня, які скоїли самогубство, можливо, обговорювали це з чат-ботом. Альтман висловив жаль, що компанія не змогла врятувати їх, і припустив, що «можливо, ми могли б сказати щось краще, бути більш проактивними або надати кращу пораду, що потрібно звернутися за допомогою».

Він також додав, що компанія планує обмежити можливість для вразливих користувачів «обходити систему», вдаючи, що вони просять поради для написання художньої книги або медичного дослідження. Він вважає, що для неповнолітніх та «користувачів, які, на нашу думку, перебувають у нестабільному психічному стані», буде доречно «обмежити деяку свободу».

Представник OpenAI відмовився коментувати слова Альтмана, але послався на нещодавні публічні заяви компанії, де вони обіцяють «підвищити доступність до екстрених служб в один клік» та «втручатися раніше і зв’язувати людей із сертифікованими терапевтами до того, як вони опиняться в гострій кризі».