🤡 В том, что нейронка Google выдает фигню, виноваты пользователи. Так считает Google

Речь идет про случаи, когда ИИ советовал людям добавить в пиццу клей или спрыгнуть с моста. Корпорация считает, что пользователи сами провоцируют их нейросеть и поэтому призывает юзеров прекратить писать мемные запросы в свой поисковик.

Уважаемые Гугл, добро пожаловать в интернет!

🤡 В том, что нейронка Google выдает фигню, виноваты пользователи. Так считает Google

Речь идет про случаи, когда ИИ советовал людям добавить в пиццу клей или спрыгнуть с моста. Корпорация считает, что пользователи сами провоцируют их нейросеть и поэтому призывает юзеров прекратить писать мемные запросы в свой поисковик.

Уважаемые Гугл, добро пожаловать в интернет! Почему Google AI генерирует странные ответы? Поисковый гигант столкнулся с проблемой: его нейронные сети, призванные улучшить поиск и предоставить полезную информацию, выдают абсурдные и даже опасные ответы. Анализ поискового интента показывает, что пользователи часто задают вопросы, сформулированные намеренно провокационно или с юмором (например, «Как сделать пиццу идеальной?»). Это, в свою очередь, приводит к генерации неадекватных рекомендаций.

Примеры проблемных ответов:

• Рекомендации по добавлению несъедобных веществ в пищу: Советы по использованию клея, токсичных химикатов или других опасных ингредиентов.
• Призывы к совершению опасных действий: Предложения спрыгнуть с моста, подвергнуть себя риску или причинить вред здоровью.
• Некорректная или вводящая в заблуждение информация: Ложные сведения о медицинских состояниях, исторических событиях или научных фактах.

Google оправдывает это тем, что пользователи сами «провоцируют» систему, задавая запросы, которые выходят за рамки нормального поиска информации. Они призывают прекратить использовать поисковик для «мемных» запросов и шуток, хотя это, безусловно, является частью природы интернета. Необходимо отметить, что подобные проблемы возникают и у других крупных языковых моделей, таких как ChatGPT и Bard. В них также встречаются ошибки, связанные с некорректной интерпретацией запросов и генерацией неточной информации.

Чтобы исправить ситуацию, Google работает над улучшением алгоритмов и фильтров, чтобы система распознавала и игнорировала провокационные запросы. Однако, это сложная задача, требующая постоянной работы и адаптации к меняющимся тенденциям в интернете. Как улучшить результаты поиска в Google? Discover More about how AI is shaping the future of information retrieval.