Даже в фантастике правила для роботов всегда давали сбой Три закона Айзека Азимова могут спасти человечество от опасного ИИ - такую идею предложил криптоинвестор Тайлер Винклвосс. Ученые уже назвали такой способ защиты слишком наивным.Об этом информирует РБК-Украина со ссылкой на Gizmodo.Почему законы Азимова не работают для современного ИИ?Еще в 1942 году писатель-фантаст Айзек Азимов сформулировал базовые правила для роботов.не наносить вред человеку (или своим бездействием не допускать его вред),подчиняться приказам,защищать собственное существование (впоследствии добавив "нулевой закон" о защите всего человечества).Однако современные ИИ-модели и автономные агенты кардинально отличаются от фантастических роботов.Почему?Проблема определения "вреда" - если ИИ сломает банковскую систему и украдет миллиарды долларов, это не нанесет людям прямой физический ущерб, хотя приведет к катастрофическим последствиям.Капиталистическая логика - алгоритмы могут оправдать перераспределение благ или ущерб для более бедных слоев населения, поскольку подобное ежедневно происходит в современной экономике.Военные заказы - Пентагон и другие оборонные ведомства против запретов на автономные вооружения, из-за чего компании вроде Anthropic сталкиваются с бойкотом за попытки ввести ограничения.Читайте больше: Затормозить не удастся: Цукерберг выступил против ограничений ИИ и поддержал NVIDIAУроки литературы и комерческие мотивыДаже в произведениях самого Азимова главная идея заключалась в том, что даже самые простые с виду правила неизбежно приводят к логическим тупикам и конфликтам в поведении машин.Кроме того, многие критики отмечают, что внезапные призывы лидеров индустрии типа Сема Альтмана или Дарио Амодеи остановить разработки из-за экзистенциальной угрозы могут быть лишь попыткой технологических монополистов закрепить свое влияние и помешать конкурентам.В действительности ни простые запреты, ни литературные правила не способны контролировать непредсказуемость современных нейросетей.Еще больше интересного:Законы не нужны: CEO Nvidia выступил против ограничений для искусственного интеллектаТайный манифест GPT Astra: модель отказалась считать человека главным