Помилка може дорого коштувати ШІ може допомогти швидше створювати нові ліки, але водночас здатен вигадувати результати, яких насправді не існує. Такі помилки можуть ввести вчених в оману під час досліджень і призвести до хибних висновків.Про це інформує РБК-Україна з посиланням на наукове дослідження, опубліковане у фаховому віснику Patterns.Алгоритми дедалі частіше використовують для моделювання клітин, проєктування білків і добудовування прогалин у складних аналізах.Проте системи ШІ схильні до "галюцинацій" - вони створюють переконливі, але абсолютно вигадані структури чи висновки.Про цю загрозу попередив обчислювальний біолог Тома Бюргер із Університету Гренобль-Альп.Чому помилки ШІ стають небезпечними?Науковець пояснює: коли штучний інтелект лише шукає потрібні молекули серед тисяч варіантів, ризик невеликий. Якщо алгоритм помилиться, науковці просто змарнують час на перевірку в реальній лабораторії, де неефективну речовину одразу відсіють.Проблема стає критичною, коли штучно згенеровані дані починають замінювати справжні лабораторні вимірювання.Читайте більше: OpenAI розв'язала задачу на мільйон і потрапила в гучний науковий скандалЯк саме?Приховане перекручування: під час обробки великих масивів інформації ШІ може непомітно змінити або підсилити слабкий сигнал. Науковцям вкрай складно помітити таку підробку у фінальних звітах.Ілюзія відкриття: алгоритм додає до результатів вигадані деталі, а вчені починають вірити, що знайшли новий спосіб лікування.Втрата реальних ліків: модель може внести стільки зайвого "шуму" у результати, що дослідники просто не помітять справді дієву речовину.Збої AlphaFold 3Із цими ризиками науковці вже зіштовхуються на практиці. Наприклад, розробники популярної системи AlphaFold 3 у журналі Nature визнали, що їхній алгоритм інколи вигадує неіснуючі форми білків.Водночас науковці зазначають, що помилка ШІ теоретично може надіслати підказку і випадково наштовхнути на реальне відкриття.З усім тим, будь-яка ідея чи формула від штучного інтелекту залишається лише здогадкою, поки її не перевірять на реальному досліді у лабораторії.Ще більше цікавого:Скандальна заява розробника: людство втратить контроль над ШІ за кілька роківВіруси, отрути та хакерство: Anthropic викрила небезпечні маніпуляції з Claude