Электричка китайца считает, что ездит с закрытыми глазами

Xiaomi SU7 постоянно выдает водителю предупреждение: «Пожалуйста, сосредоточьтесь на вождении». Он записал видео, где прищуривался и авто принимало это за сон.

Xiaomi поспешили оправдаться, сославшись на систему контроля, которая следит за глазами через камеру.

Машина-расист.

Электричка китайца считает, что ездит с закрытыми глазами

Xiaomi SU7 постоянно выдает водителю предупреждение: «Пожалуйста, сосредоточьтесь на вождении». Он записал видео, где прищуривался и авто принимало это за сон. Это вызвало волну обсуждений, ведь система мониторинга усталости водителя (Driver Monitoring System — DMS) должна корректно распознавать состояние человека, а не реагировать на особенности разреза глаз.

Xiaomi поспешили оправдаться, сославшись на систему контроля, которая следит за глазами через камеру. Они утверждают, что система анализирует множество факторов, включая моргание, направление взгляда и положение головы. Однако, в данном случае, алгоритм явно дал сбой, приняв азиатский разрез глаз за сонливость. Это подчеркивает важность тщательного тестирования и калибровки DMS для различных этнических групп, чтобы избежать дискриминации и ложных срабатываний. Проблемы с распознаванием лиц и других объектов, особенно при слабом освещении или необычных углах, уже давно известны в сфере компьютерного зрения.

Машина-расист. Подобные инциденты поднимают вопросы о предвзятости алгоритмов и необходимости их прозрачности. Производители должны стремиться к созданию более инклюзивных и точных систем, которые учитывают разнообразие человеческих черт. [Узнайте больше о проблемах с ИИ](https://example.com/ai-bias/). [Получите бесплатную консультацию](https://example.com/contact/).