В соцсетях разошлась история: одно-единственное слово заставило ChatGPT вместо перевода выдать несколько экранов бессмыслицы. Звучит как шутка, но у таких сбоев нейросетей есть вполне реальная причина. Мы уже писали о том, что стало с приложением ChatGPT на Android, а теперь я решил проверить эту историю на своём смартфоне. Рассказываю, что случилось, почему нейросеть может «сломаться» на одном слове и как проверить это у себя.
Неудачная попытка ChatGPT перевести слово «полупозвонок»
Какое слово сломало ChatGPT
Историю рассказала пользовательница соцсети X. По её словам, она сидела на приёме у врача и попросила ChatGPT перевести на сербский предложение со словом «полупозвонок» — это медицинский термин, так называют аномалию развития позвонка. Вместо перевода нейросеть, по её словам, «шипела» на неё целых три экрана.
Пост быстро разлетелся по соцсетям и Telegram-каналам. Оригинал можно найти в публикации автора. Официальных комментариев OpenAI об этом сбое я не нашёл.
Почему нейросеть ломается на одном слове
ChatGPT не читает слова целиком. Перед обработкой текст режется на кусочки — токены, и для нейросети каждое слово превращается в набор таких кусочков. Если какой-то токен почти не встречался при обучении, модель не понимает, что с ним делать, и начинает выдавать странный ответ.
Проблемы с переводом слова «полупозвонок» у пользовательницы соцсети X
Такие слова называют глитч-токенами. Самый известный пример нашли ещё в 2023 году: на слове SolidGoldMagikarp ChatGPT отвечал невпопад, увиливал или подменял его другим словом. Исследователи выяснили, что многие такие токены — это никнеймы пользователей Reddit, которые попали в данные для токенизатора, но почти не встречались при обучении самой модели, писал Vice.
Залетай в чат AndroidInsider.ru в MAX
Бывают и сбои на стороне самой OpenAI. В феврале 2024 года ChatGPT массово выдавал бессвязный текст на смеси языков, а OpenAI сообщила, что изучает жалобы, рассказывал Popular Science.
Я проверил на своём Android — у меня не сбоит
Я открыл ChatGPT на своём смартфоне и попросил перевести на сербский фразу со словом «полупозвонок». Никакого шипения: нейросеть спокойно выдала перевод, как с любым другим словом.
Безошибочный перевод фразы со словом «полупозвонок»
Почему у автора поста сломалось, а у меня нет, точно сказать нельзя. Ответы ChatGPT каждый раз немного отличаются, у разных пользователей могут работать разные версии модели, а сбой могли уже исправить. Поэтому один пост — ещё не доказательство, что слово ломает нейросеть у всех.
Как проверить у себя
Проверить историю можно за минуту, если ChatGPT у вас работает. Сделайте так:
- Откройте приложение ChatGPT по нашей инструкции и начните новый чат.
- Напишите: «Переведи на сербский: у пациента обнаружили полупозвонок».
- Если ответ обычный, повторите запрос ещё пару раз в новых чатах.
- Попробуйте задать тот же вопрос голосом.
Если ChatGPT начнёт выдавать бессмыслицу, сделайте скриншот — по нему будет понятно, повторяется ли сбой у других. Поделиться результатом можно в чате AndroidInsider.ru в MAX.
