Ошибка может дорого стоить ИИ может помочь быстрее создавать новое лекарство, но в то же время способен придумывать результаты, которых на самом деле не существует. Такие ошибки могут ввести ученых в заблуждение во время исследований и привести к ложным выводам.Об этом информирует РБК-Украина со ссылкой на научное исследование, опубликованное в профессиональном вестнике Patterns.Алгоритмы все чаще используются для моделирования клеток, проектирования белков и достройки пробелов в сложных анализах.Однако системы ИИ подвержены "галлюцинациям" - они создают убедительные, но совершенно вымышленные структуры или выводы.Об этой угрозе предупредил вычислительный биолог Тома Бюргер из Университета Гренобль Альп.Почему ошибки ИИ становятся опасными?Ученый объясняет: когда искусственный интеллект только ищет нужные молекулы среди тысяч вариантов, риск невелик. Если алгоритм ошибется, ученые просто тратят время на проверку в реальной лаборатории, где неэффективное вещество сразу отсеют.Проблема становится критической, когда искусственно сгенерированные данные начинают заменять подлинные лабораторные измерения.Читайте больше :OpenAI решила задачу на миллион и попала в громкий научный скандалКак именно?Скрытое извращение: при обработке больших массивов информации ИИ может незаметно изменить или усилить слабый сигнал. Ученым крайне сложно заметить такой подлог в финальных отчетах.Иллюзия открытия: алгоритм добавляет к результатам вымышленные детали, а ученые начинают верить, что нашли новый способ лечения.Потеря реального лекарства: модель может внести столько лишнего "шума" в результаты, что исследователи просто не заметят действительно действенное вещество.Сбои AlphaFold 3С этими рисками ученые уже сталкиваются на практике. К примеру, разработчики популярной системы AlphaFold 3 в журнале Nature признали, что их алгоритм иногда придумывает несуществующие формы белков.В то же время, ученые отмечают, что ошибка ИИ теоретически может отправить подсказку и случайно натолкнуть на реальное открытие.Со всем тем, что любая идея или формула от искусственного интеллекта остается лишь догадкой, пока ее не проверят на реальном опыте в лаборатории.Еще больше интересного:Скандальное заявление разработчика: человечество потеряет контроль над ИИ через несколько летВирусы, яды и хакерство: Anthropic разоблачила опасные манипуляции с Claude