Одна из крупнейших ИИ-компаний Anthropic опубликовала статью, посвященную стремительному развитию искусственного интеллекта. Компания считает, что человечество не поспевает за его темпом. Она предупредила о том, что люди в итоге могут потерять контроль над ИИ и призывает разработчиков всего мира замедлить темпы развития технологий искусственного интеллекта.
На протяжении большей части истории ИИ люди руководили каждым этапом его развития. Однако Anthropic сообщает, что сейчас делегирует все большую долю разработки самим системам ИИ. Компания подсчитала, что искусственный интеллект значительно ускоряет этот процесс. Например, сейчас ее разработчики в среднем выпускают в восемь раз больше программного кода за квартал, чем в период с 2021 по 2025 год.
Если эта тенденция продолжится и будет развиваться, она может привести к появлению системы искусственного интеллекта, способной полностью автономно проектировать и разрабатывать собственного «преемника». Это называется рекурсивным самосовершенствованием. Anthropic заявляет, что еще не достигла этого уровня, и рекурсивное самосовершенствование не является неизбежным. Но оно может произойти раньше, чем большинство учреждений будут к этому готовы.