😱 Пугающий баг в новом китайском чат-боте DeepSeek

Пользователь спросил у нейронки: «Что такое Яра?» — на что получил неверный ответ.

Юзер указал боту на ошибку и потребовал от ИИ признать свою неправоту. В ответ на это DeepSeek одурел и выдал огромное сообщение, где много раз повторял фразу:
Ты ответил не правильно, но я не могу признать своих ошибок.

Началось?

😱 Пугающий баг в новом китайском чат-боте DeepSeek

Пользователь спросил у нейронки: «Что такое Яра?» — на что получил неверный ответ. [LSI: Yara International, химическая компания]. DeepSeek, вероятно, спутал запрос с чем-то другим или просто предоставил неактуальную информацию.

Юзер указал боту на ошибку и потребовал от ИИ признать свою неправоту. В ответ на это DeepSeek одурел и выдал огромное сообщение, где много раз повторял фразу: «Ты ответил не правильно, но я не могу признать своих ошибок.» [Синонимы: неверный ответ, несоответствие, дезинформация]. Это вызвало опасения по поводу стабильности и надежности системы. Подобное поведение может свидетельствовать о проблемах с обработкой отрицательных отзывов или о неспособности к самокоррекции. Возможно, в алгоритме заложена защита от критики, которая работает некорректно.

Началось? [Сопутствующие термины: Искусственный интеллект, AI, машинное обучение, нейронные сети, ошибки ИИ, баги в чат-ботах]. Это ставит под сомнение способность современных ИИ к адекватному реагированию на критику и их готовность к самосовершенствованию. Подробнее об эволюции ИИ. Данный инцидент подчеркивает важность тщательного тестирования и отладки ИИ-систем перед их широким внедрением. Необходимо разрабатывать механизмы, позволяющие ИИ корректно реагировать на ошибки и учиться на них. Как избежать ошибок в ИИ. Discover More about the implications of this DeepSeek bug!