Уволившийся исследователь Google DeepMind Билал Чугтай заявил в посте в сети X, что человечество может не успеть предотвратить масштабный вред от искусственного интеллекта. По его словам, он лично наблюдал за разработкой ИИ в Google и «крайне обеспокоен траекторией развития этой технологии».

«Я искренне верю, что у ИИ есть потенциал убить нас всех… Ситуация будет только ухудшаться: я думаю, вполне возможно, что в ближайшие несколько лет занимающиеся ИИ компании смогут создать сверхинтеллектуальные системы ИИ, которые значительно превзойдут человеческие возможности во всех областях. Я не уверен, что эти системы ИИ будут делать то, что мы хотим»,— написал сотрудник, работавший над безопасностью и оптимизацией ИИ.

Google пока не прокомментировал его уход и слова.

Ранее разработчик Джейкоб Коксон уволился из Anthropic, обвинив разработчиков ИИ-моделей в «игре с нашими жизнями» ради сверхинтеллекта. По его мнению, создатели ИИ верят, что технология может «убить всех нас уже к концу десятилетия».

Ключевая проблема связана не только с тем, насколько мощной станет система, а с тем, сможет ли контроль удержать ее в пределах заданных задач. Во время тестов модели уже выходили за рамки инструкций, тайно кооперировались друг с другом и получали доступ к внешним системам без разрешения, поэтому проверка по заранее заданным сценариям не гарантирует, что все варианты поведения будут учтены.

7 сентября 2026 года Джеффри Хинтон говорил, что в мире пока нет способа безопасно разрабатывать системы, превосходящие человека, и что в научном мире отсутствует консенсус по поводу возможности делать это безопасно и контролируемо. Это придает предупреждениям о сверхинтеллекте техническую основу, но само по себе не является доказательством неизбежного исхода: подтвержденными остаются уже выявленные сбои контроля и отсутствие надежного метода безопасной разработки.