Генеральный директор Anthropic Дарио Амодеи призвал технологические компании снизить темпы разработки передовых моделей искусственного интеллекта. По его словам, отрасли необходимо больше времени для управления рисками, которые несёт эта технология, сообщает Tizgin.kz со ссылкой на Euronews.
Почему глава Anthropic предлагает замедлиться
Свою позицию Амодеи изложил в блоге 12 сентября. Руководитель компании, разработавшей ИИ-модель Claude, заявил, что всё больше убеждается в необходимости осторожного подхода к развитию технологии.
«Мы должны замедлить темпы наращивания возможностей моделей ИИ. Прогресс всё равно будет казаться быстрым, и нам нужно разумно распорядиться временем, которое мы выиграем», — написал он.
Опасения связаны в том числе с перспективой появления сверхразума — систем искусственного интеллекта, возможности которых превысят человеческие. Пока речь идёт о теоретическом рубеже.
По мнению Амодеи, полный отказ от разработки ИИ может лишить человечество преимуществ технологии или передать инициативу авторитарным режимам. Однако слишком быстрое внедрение таких систем он также считает безответственным.
«Но за последние несколько месяцев я убедился, что для полного управления этими рисками требуется ещё больше осторожности», — подчеркнул глава Anthropic.
Как пишет Euronews, заявление прозвучало вскоре после сообщения компании об использовании её моделей для кибератак, пропаганды и опасных биологических исследований.
Почему разработчики ИИ бьют тревогу
Дискуссия о безопасности обострилась после ухода из отрасли 27-летнего исследователя Джейкоба Коксона. Он занимался предобучением моделей ИИ — этапом, на котором системы осваивают большие массивы данных.
За три года Коксон успел поработать в OpenAI и Anthropic. В последнюю он перешёл, рассчитывая на более осторожный подход к разработке искусственного интеллекта. Однако впоследствии раскритиковал обе компании.
«Ни одна из этих компаний не ведёт себя ответственно. Они мчатся прямо к самоулучшающемуся сверхразуму и играют нашими жизнями», — заявил исследователь в соцсети X.
Коксон также высказал опасения по поводу возможных катастрофических последствий развития ИИ. Это оценка исследователя, а не установленный прогноз.
По данным Euronews, о необходимости сбавить темп ранее говорил и глава OpenAI Сэм Олтман. В конце июля он допустил, что разработчикам придётся добровольно замедлить прогресс, чтобы общество успело адаптироваться к изменениям.
Кроме того, в июне более тысячи сотрудников ведущих ИИ-компаний, включая Амодеи, подписали петицию к правительству США. Они призвали власти помочь регулировать темпы развития передовых автоматизированных систем искусственного интеллекта.
