Ученые обнаружили угрозу использования нейросетей на Марсе ИИ может уверенно находить инопланетную жизнь там, где ее нет - алгоритмы выдают ложные результаты при поиске биосигнатур.Об этом информирует РБК-Украина, ссылаясь на исследование, опубликованное на сервере препринтов arXiv.Как ученые обманули искусственный интеллект?В поисках внеземной жизни астробиологи опираются на поиск универсальных индикаторов - в частности, способности систем кодировать информацию и самовоспроизводиться, как ДНК.Чтобы проверить способность ИИ распознавать эти процессы, исследователи использовали программу Avida , которая генерирует "цифровую жизнь" в виде программного кода, способного эволюционировать и копировать себя в виртуальной среде.Обучив нейросеть на десятках тысяч цифровых организмов, ученые достигли поразительной начальной точности распознавания в 99,97 процента.Однако дальнейший тест обнаружил серьезную проблему: меняя лишь отдельные команды в коде неспособного к размножению организма, ученым удалось полностью сбить ИИ с толку."Независимо от того, с какой последовательности команд мы начинали, нам удавалось обмануть ИИ в 100 процентах случаев", - отметил аспирант кафедры компьютерных наук и инженерии MSU Анкит Гупта.Больше интересного: Вдвое дешевле и умнее: OpenAI обновила GPT-6Для того чтобы алгоритм ошибочно признал неодушевленный объект способным к самовоспроизведению, понадобилось лишь около 150 мелких правок в коде.Количество подобных комбинаций в реальном мире огромно, поэтому вероятность наткнуться на ложную биосигнатуру остается крайне высокой."Искусственный интеллект имеет "ахиллесовую пятку". Он может увидеть паттерн и совершенно неправильно его классифицировать", - объяснил профессор микробиологии, молекулярной генетики, физики и астрономии Кристоф Адами.Читайте больше: Anthropic обновила Opus 5.5: топовый ИИ стал дешевле и быстрееПрямая угроза для космических миссий и земных технологийОбнаруженная уязвимость создает риски для будущих исследований NASA и других космических агентств, планирующих использовать ШИ-сенсоры на марсоходах и зондах у спутников Юпитера и Сатурна.Если автономный аппарат на Марсе сделает ошибочный вывод об обнаружении жизни, проверить эти данные до возвращения образцов на Землю будет невозможно.Кроме астробиологии, слабость распознавания паттернов угрожает и другим сферам, где ИИ внедряется без надлежащего контроля - от медицинских сканеров и камер наблюдения до автопилотов в машинах."Это не значит, что использовать такие методы в астробиологии, медицинской диагностике или на поле боя бесполезно. Вам нужен независимый способ проверки работы ИИ. В цепи принятия решений обязательно должен оставаться человек", - подытожил Адами.Еще больше интересного:Работы идут на войну: Китай испытывает боевые гуманоидыФейковое ядерное оружие: искусственный интеллект едва не спровоцировал конфликт США с Китаем