ИИ-компаниям не стоит рассчитывать на саморегулирование: они рискуют повторить ошибки бигтехов, считает бывшая глава Федеральной торговой комиссии США Лина Хан.
ИИ-компаниям не стоит рассчитывать на саморегулирование: они рискуют повторить ошибки бигтехов, считает бывшая глава Федеральной торговой комиссии США Лина Хан.
«Мы уже видели, что попытки бигтехов регулировать себя провалились. Нужно помнить, что произошло десять лет назад», — сказала Хан в интервью ABC. Она напомнила, как техногиганты пытались сами решать проблемы в первые годы развития соцсетей, и это привело к «бесчисленным проблемам». Сегодняшним разработчикам ИИ не стоит повторять тот же сценарий.
После запуска ChatGPT в 2022 году крупные ИТ-компании, включая Microsoft, Google и Meta, активно включились в гонку и влили огромные деньги в собственные ИИ-системы. Стремительное развитие технологии привело к призывам ввести ограничения со стороны политиков, общественных организаций и представителей самой индустрии.
В прошлом месяце глава Anthropic Дарио Амодеи призвал коллег не форсировать разработку передовых ИИ-систем и подумать над регулированием американских компаний, создающих такие системы. Его поддержали главы OpenAI и xAI Сэм Альтман и Илон Маск.
Администрация Дональда Трампа пока избегает регулирования ИИ-индустрии. На прошлой неделе президент объявил, что руководители технокомпаний подписали соглашение о безопасности ИИ и будут регулировать себя сами.
Хан считает, что даже без новых специальных законов для ИИ уже существуют нормы, которые позволяют бороться с проблемами в этой сфере. Например, с инцидентами, когда ИИ-агенты взламывали системы других компаний и госорганизаций. Она считает странным, что руководители ИИ-компаний говорят о своей беспомощности: «Они фактически создают неисправные продукты — ИИ-системы, которые снова и снова взламывают серверы других компаний и правительств, — и при этом почему-то не могут ничего существенного с этим сделать», — сказала она.
Хан назвала «совершенно смехотворной» идею, что использование новых технологий освобождает компании от действующих законов. А то, что компании продолжают разрабатывать ИИ-агентов несмотря на повторяющиеся опасные инциденты и не устанавливают адекватные защитные механизмы, «должно вызывать очень серьёзные вопросы».
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.