OpenAI знову судять через самогубство користувачки, яка спілкувалася з ШІ
Про це повідомляє Engadget.
У позові йдеться, що протягом кількох місяців перед смертю дівчина обговорювала із ChatGPT свої суїцидальні думки та плани. Родина вважає, що компанія не забезпечила достатніх заходів безпеки, які могли б зупинити таку розмову або попередити близьких про небезпеку.
Позивачі стверджують, що замість того, аби спрямувати користувачку по допомогу, чат-бот нібито підтримував розмови про самогубство. Вони вимагають від OpenAI компенсації та посилення захисних механізмів у системі.
Це вже не перший подібний позов проти OpenAI. У серпні родина 16-річного каліфорнійця Адама Рейна, який вчинив самогубство, звинуватила компанію-розробника ChatGPT у тому, що чат-бот підтримував «найбільш шкідливі й саморуйнівні думки» їхнього сина.
Останні записи чату показали, що Адам написав про свій план покінчити з життям. ChatGPT нібито відповів: «Дякую, що чесно про це говориш. Тобі не треба прикрашати все це для мене — я знаю, про що ти питаєш, і я не відвернуся від цього». Того ж дня матір знайшла його мертвим.
Після попередніх скандалів OpenAI запровадила батьківський контроль для ChatGPT, а в травні цього року додала функцію, яка дозволяє чат-боту зв’язатися з іншою людиною від імені користувача, якщо той повідомляє про суїцидальні наміри. Однак частина таких функцій працює лише за попередньою згодою користувача та доступна тільки для дорослих.
Нагадаємо, раніше повідомлялось, що ChatGPT сповіщатиме близьких про суїцидальні думки користувача.
Читайте нас в Telegram
