«Пока не стало слишком поздно»: ООН призвала установить правила для ИИ

В ООН призвали страны и технологические компании срочно договориться об общих правилах разработки и использования наиболее мощных систем искусственного интеллекта, передает Tizgin.kz.

Верховный комиссар ООН по правам человека Фолькер Тюрк предупредил, что развитие ИИ без достаточных механизмов контроля может создать серьёзные риски для человечества.

«Нужны жёсткие гарантии безопасности»

По словам Тюрка, особенно опасной ситуация может стать, если системы ИИ получат возможность самостоятельно обходить установленные ограничения или препятствовать своему отключению.

В ближайшие дни он намерен обсудить вопросы безопасности ИИ с крупнейшими IT-компаниями.

Опасность не только в дезинформации

Эксперты отмечают, что современные системы ИИ способны влиять не только на информационную среду.

Одной из главных проблем называют концентрацию данных и передовых технологий в руках ограниченного числа государств и крупных компаний. В ООН опасаются, что такие технологии могут использоваться преимущественно в интересах их владельцев.

Разработчики также призывают действовать

Сооснователь Anthropic Джек Кларк заявил, что у мировых лидеров остаётся ограниченное время для введения необходимых правил.

По его словам, разработка наиболее мощных систем требует огромных финансовых ресурсов, поэтому сейчас передовые технологии сосредоточены у небольшого числа компаний.

Какие меры предлагают

В ООН выступают за создание международных стандартов безопасности ИИ, сотрудничество между государствами и независимый мониторинг развития технологий.

Отдельное внимание предлагается уделить экологическим последствиям работы дата-центров. Разработчиков призывают раскрывать данные о выбросах и постепенно переводить центры обработки данных на возобновляемые источники энергии.