Сериал от нейросети забанили на Твиче
Речь идёт о нашумевшем сериале «Nothing, Forever» — бесконечной серии Seinfeld на платформе видеотрансляций Twitch. Этот экспериментальный проект, созданный с помощью искусственного интеллекта, быстро привлек внимание зрителей своей непредсказуемостью и абсурдностью, имитируя стиль культового ситкома. Однако, его существование оказалось недолгим.
Причина бана следующая: нейросеть сгенерировала сцену, в которой стендап-комик, в свойственной для персонажей Seinfeld манере, удивился, что никто из зрителей не смеётся. Это стало отправной точкой для дальнейшего развития диалога. После этого комик, продолжая импровизировать, пошутил про LGBTQ+ сообщество, упомянув трансгендеров, геев и транссексуалов. Именно эта шутка, сгенерированная без какого-либо понимания контекста или социальных норм, привела к блокировке трансляции.
Нейросеть ведь никто не обучал новой этике. Искусственный интеллект оперирует паттернами и данными, на которых он был обучен. Если эти данные не содержат информации о чувствительных темах или о том, как избегать потенциально оскорбительных высказываний, нейросеть будет генерировать контент, основываясь на имеющихся у нее знаниях, что может привести к непредвиденным и нежелательным результатам. Это яркий пример того, как технологии, не обладающие человеческим пониманием, могут столкнуться с ограничениями реального мира.
Может, пора уже создавать массивы данных, обучаться на которых будет обязана каждая нейросеть? Идея формирования так называемых «этических датасетов» или «этически ориентированных обучающих выборок» становится всё более актуальной. Такие наборы данных могли бы включать в себя примеры корректного поведения, избегания стереотипов и уважительного отношения к различным социальным группам. Как вам идея школы для нейросетей, где ИИ могли бы получать «образование» в области социальных норм и этических принципов, чтобы избежать подобных инцидентов в будущем? Это могло бы стать важным шагом в развитии ответственного искусственного интеллекта.
Диджитальная