Генеральный директор Anthropic Дарио Амодеи опубликовал эссе с призывом к немедленному государственному регулированию искусственного интеллекта, предупредив, что нынешних добровольных мер по обеспечению прозрачности недостаточно для устранения рисков, связанных с этой технологией.
Амодеи предложил создать регуляторную базу, аналогичную Федеральному авиационному управлению США, с обязательным тестированием третьими сторонами и полномочиями властей блокировать небезопасные модели ИИ. Предложение появилось после недавних сбоев в сфере кибербезопасности, вызванных системой Claude Mythos Preview.
Глава Anthropic обозначил пять направлений политики, требующих неотложных действий. В части регулирования и общественной безопасности он утверждает, что ИИ несёт риски, сопоставимые с авиацией или ядерными технологиями. Он призвал обязать разработчиков ресурсоёмких моделей проходить обязательное тестирование на предмет угроз кибербезопасности, создания биологического оружия, потери контроля над системой, а также рисков автоматизированных исследований и разработок.
В сфере экономической политики Амодеи предупредил о возможном масштабном вытеснении работников с рынка труда. Он рекомендовал правительствам в краткосрочной перспективе ввести страхование заработной платы, налоговые стимулы для удержания сотрудников и гранты на переобучение. В долгосрочной перспективе он предложил рассмотреть введение универсального базового дохода или универсальных капитальных счетов, финансируемых за счёт налогообложения экономического роста, генерируемого ИИ.