Компания опубликовала доклад, где сообщила, что современный мир ещё не готов к нынешнему темпу развития ИИ.
Согласно докладу, ИИ уже сейчас бодро разрабатывает сам себя: более 80 % кода, который использует Anthropic, пишет сам Claude. Люди всё ещё нужны, чтобы ставить цели и мыслить шире поставленной задачи, но с разработкой, поиском и исправлением багов нейросеть справляется с каждым разом лучше. Они описывают прогресс за 2026 год, как если бы «средний помощник стал суперчеловеком».
В будущем ИИ сможет создавать более мощные версии себя, — предупреждают авторы. И приводят два наиболее вероятных сценария будущего. В первом — ИИ останется мощным, но будет контролироваться людьми. Малые рабочие команды смогут делать работу за сотни тысяч человек. Это не только приведёт к революции в интеллектуальном труде, но и откроет дорогу массовой слежке, манипуляциям и злоупотреблению властью. Во втором сценарии ИИ станет развиваться полностью сам, наплодит «потомков» и со временем научится проектировать и создавать сам себя. Человеческий труд перестанет быть конкурентоспособным, и это изменит экономику и мир непредсказуемым образом.
Anthropic предлагает слегка притормозить, договориться и остановить разработку ИИ. А пока идёт пауза — разработать международные механизмы контроля, чтобы человечество не встретило потенциально опасную разработку беззащитным. Начинать с себя, правда, не спешит. Поэтому поздороваемся со Скайнетом?
