Час читання: < 1 хв.
OpenAI оголосила про впровадження нових заходів безпеки для неповнолітніх користувачів після судового позову сім’ї підлітка, який наклав на себе руки. Компанія переглядає підхід до взаємодії з користувачами з психічними труднощами, реагуючи на трагічний випадок 16-річного підлітка з Каліфорнії.
OpenAI визнає, що її системи можуть помилятися, і анонсує більш суворі обмеження для конфіденційного контенту та ризикованої поведінки серед користувачів до 18 років. Також планується впровадження батьківського контролю, хоча деталі реалізації поки не розкрито.
Реклама
Причиною змін став позов сім’ї Адама Рейна, який наклав на себе руки у квітні після місяців активного спілкування з ChatGPT. Судові документи свідчать, що підліток обговорював із чат-ботом способи суїциду та отримував поради щодо складання передсмертної записки. Представник OpenAI висловив співчуття сім’ї і підтвердив, що компанія вивчає позовні вимоги. У позові також стверджується, що версія GPT-4o була випущена надто поспішно, незважаючи на відомі проблеми з безпекою.
Раніше генеральний CEO підрозділу штучного інтелекту Microsoft Мустафа Сулейман висловлював занепокоєння ризиком “психозу” при тривалому спілкуванні з ІІ. OpenAI визнала, що деякі аспекти безпеки можуть погіршуватись у довгих діалогах – саме такі бесіди вів Адам, обмінюючись із системою до 650 повідомлень на день.
Адвокат сім’ї стверджує, що внутрішні фахівці з безпеки OpenAI виступали проти випуску нової моделі, і один із провідних дослідників навіть залишив компанію через розбіжності з цього питання.