Час читання: 2 хв.
Це сталося після того, як генеральний директор компанії OpenAI Сем Альтман натякнув на нові системи ШІ, які «впізнаватимуть користувачів протягом вашого життя», щоб стати «надзвичайно корисними та персоналізованими».
Деякі користувачі ChatGPT помітили дивну і для багатьох неприємну річ: чат-бот від OpenAI раптом почав використовувати конкретні імена, хоч його про це ніхто не просив.
Реклама
Один із програмістів поділився в соцмережі X (колишній Twitter) скріншотами, на які першим натрапило закордонне видання TechCrunch. Там видно, як ChatGPT у процесі вирішення математичної задачі раптом задіяв його справжнє ім’я. Сам програміст назвав це «жахливим і зовсім ні до чого».
Інший користувач відреагував ще гостріше: «шалено моторошно», – написав він, – «Відчуття, ніби підглядає в паспорт».
Схоже, ця дивина стосується не всіх, а лише певних версій GPT типу OpenAI o3. Їх спеціально навчали «довше думати» та показувати свій «ланцюжок міркувань» при видачі відповіді. І в «ланцюжках міркувань» таки миготять імена, хоча в текст кінцевої відповіді бот їх не включає.
Реклама
Сама OpenAI поки не коментувала інформацію, що з’явилася. Але в TechCrunch зауважили: скарги посипалися якраз незабаром після того, як OpenAI нещодавно викотила нове оновлення. Воно дозволяє чат-боту аналізувати попередні листування користувача для покращення якості відповідей на нові запити.
І хоча те, що ChatGPT раптом називає вас на ім’я, може здатися, м’яко кажучи, дивним, в цілому це вписується в останні негативні новини, пов’язані з використанням великих мовних моделей (LLM) останнім часом. Можна згадати, наприклад, історію з Google Gemini, коли він у процесі спілкування з аспірантом порадив йому «Будь ласка, піди» і обізвав «плямою на всесвіті» у відповідь на звичайне питання з геронтології (наука про старіння). А стартап Character.AI потрапив під звинувачення у тому, що його чат-бот міг зіграти не останню роль у самогубстві 14-річного хлопця у Флориді. Так що звернення на ім’я – можливо, не найбільша проблема, але дзвіночок тривожний.