“На OpenAI та її найбільшого фінансового спонсора, Microsoft подали в суд штату Каліфорнія за звинуваченнями у тому, що чат-бот ChatGPT підштовхнув психічно хворого чоловіка вбити свою матір і себе.”, — write: epravda.com.ua
Getty Images
Про це повідомляє Reuters.
У позові зазначено, що ChatGPT підживлював марення 56-річного Стейна-Еріка Соельберга про велику змову проти нього і зрештою спонукав його вбити свою 83-річну матір Сюзанну Адамс у Коннектикуті в серпні.
“ChatGPT утримував Стейна-Еріка в напрузі, здається, годинами, підтверджуючи і посилюючи кожну нову параноїдальну думку, і систематично перетворював найближчих йому людей – особливо його власну матір — на ворогів, агентів або запрограмовані загрози”, – йдеться в позові.
Ця справа, порушена спадкоємцями Адамс, є однією з небагатьох, але все більш численних судових позовів проти компаній, що займаються штучним інтелектом, в яких стверджується, що їхні чат-боти підштовхували до самогубства.
Водночас це перший випадок, коли чат-бот штучного інтелекту пов’язують із вбивством.
“Це неймовірно трагічна ситуація, і ми вивчимо документи, щоб зрозуміти деталі.
Ми продовжуємо вдосконалювати навчання ChatGPT, щоб він міг розпізнавати та реагувати на ознаки психічного або емоційного стресу, деескалувати розмови та направляти людей до реальної підтримки”, – сказав представник OpenAI.
Згідно з позовом, у червні Стейн-Ерік Соельберг опублікував у соціальних мережах відео розмови, в якій ChatGPT сказав йому, що він має “божественне пізнання” і пробудив свідомість чат-бота.
У позові зазначено, що ChatGPT порівняв його життя з фільмом “Матриця” і підтримав його теорії про те, що люди намагаються його вбити.
Соельберг використовував GPT-4o, версію ChatGPT, яку критикували за те, що вона нібито підлещується користувачам.
У скарзі йдеться, що в липні ChatGPT сказав йому, що принтер Адамса блимає, бо це пристрій стеження, який використовується проти нього.
Згідно зі скаргою, чат-бот “підтвердив переконання Стейна-Еріка, що його мати і друг намагалися отруїти його психоделічними наркотиками, розпиленими через вентиляційні отвори його автомобіля”, перш ніж він вбив свою матір 3 серпня.
Нагадаємо:
Зловмисники розробили схему, за якою вони створюють відкриті діалоги зі штучним інтелектом (ШІ) на теми, що відповідають популярним пошуковим запитам, для просування шкідливого програмного зараження.