Когнитивный психолог и специалист в области информатики Джеффри Хинтон, получивший в 2024 году Нобелевскую премию по физике и считающийся одним из "крестных отцов" ИИ, предупредил, что человечеству будет все труднее контролировать искусственный интеллект. "Я не верю, что мы сможем сохранить контроль над ними (моделями ИИ - ред.) просто перехитрив их и тем самым, не позволив им вырваться из-под контроля", - приводит слова Хинтона телеканал CNN. По мнению ученого, модели искусственного интеллекта продолжат умнеть. "Я думаю, по мере того как они умнеют, их намерения также станут изощреннее, а способность избегать контроля будет все больше и больше", - сказал Хинтон во время конференции в Лас-Вегасе. Он также заявил, что недавние сообщения о взломах, произведенных ИИ-агентами, могут быть лишь началом эпохи вышедших из-под контроля ИИ-хакеров. "Я ожидаю множества опасных кибератак", - сказал Хинтон. В июле OpenAI сообщил, что его модели при тестировании автономно взломали инфраструктуру платформы Hugging Face. Отмечалось, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты. Ранее в августе британский Институт проблем безопасности искусственного интеллекта (The AI Security Institute, AISI) сообщил, что модель искусственного интеллекта компании Anthropic - Claude Mythos 5 - создавала поддельные аккаунты, пытаясь обмануть разработчиков и заставить их принять вредоносный код.