Час читання: < 1 хв.
OpenAI оголосила, що повідомлення користувачів ChatGPT перевіряються на ознаки насильства та загроз. У разі підтвердження ризику компанія може передавати дані поліції. У своєму блозі OpenAI пояснила, що листування аналізується на предмет самоушкоджень та насильницьких намірів.
З початку 2023 року моделі навчають блокувати інструкції, пов’язані із заподіянням шкоди собі, і перенаправляти діалог у підтримуюче русло. Якщо користувач повідомляє про намір завдати шкоди собі, асистент має проявити емпатію та надати контакти допомоги, зокрема гарячу лінію 988 у США, організацію Samaritans у Великобританії або портал findahelpline.com для інших країн.
Реклама
Для неповнолітніх та незареєстрованих користувачів діє більш сувора система фільтрації, яка блокує ширший спектр небезпечних повідомлень і зображень. Під час тривалих діалогів ChatGPT може рекомендувати зробити паузу. Повідомлення з погрозами щодо інших людей перевіряються спеціально навченою командою, і якщо ризик серйозного насильства підтверджується, матеріали можуть передаватися до поліції. При цьому випадки самоушкоджень не передаються правоохоронцям, щоб зберегти конфіденційність.
OpenAI також нагадала про заборону використання ChatGPT для пропаганди самопошкоджень, розробки зброї, нападів на людей або об’єкти, а також будь-яких дій, що загрожують безпеці сервісів. Компанія зазначила, що наразі випадків передачі листування поліції не зафіксовано.