Доведеться доводити нейромережам, що вони неправі? ШІ дедалі активніше розпізнає людські емоції за мімікою, голосом і фізіологічними сигналами. Дослідниця Лейденського університету Александра Прежан попереджає: якщо такі системи стануть безпомилковими, це може створити нові ризики для суспільства.Про це інформує РБК-Україна з посиланням на свіже дисертаційне дослідження вченої, опубліковане на сайті Лейденського університету.Алгоритми приймають рішення за людинуЩоб оцінити наслідки впровадження досконалих технологій розпізнавання емоцій, Прежан змоделювала кілька сценаріїв майбутнього.В одному з них хірург приходить до лікарні перед складною операцією, але система ERT фіксує його емоційну нестабільність. Керівництво відстороняє лікаря від роботи.Причина тривоги алгоритму не мала стосунку до його професіоналізму: лікар переживає важке розлучення та хвилюється за дитину.Попри те, що він свідомо залишив особисті проблеми поза роботою, технологія розцінила його стан як ризик для виконання службових обов'язків.У результаті людина змушена розкривати та виправдовувати перед працедавцем таємниці особистого життя, адже система вже винесла свій вердикт.Читайте більше: Звідки у Всесвіті взялося золото: ШІ допоміг наблизитися до відповідіЗміна правил соціальної взаємодії та втрата межУпродовж життя кожна людина виконує безліч соціальних ролей: хірурга, батька чи матері, партнера, друга чи сусіда. Зазвичай ми самі вирішуємо, які межі та пласти свого внутрішнього світу відкривати в тій чи іншій ситуації.Використання ERT загрожує знищенням цих меж.Що відбувається?Втрата приватності: якщо приховати внутрішні переживання стає неможливо, межа між приватним і професійним життям остаточно руйнується.Зміна ритуалів спілкування: публічний виступ чи вибачення посадовця після трагедії можуть оцінювати не за змістом, а за "непідробністю" смутку за версією ШІ.При цьому лікарі, поліцейські чи політики часто змушені стримувати емоції задля самозахисту у межах професійної етики, а це не робить їхній професійний обов'язок менш щирим.Зсув орієнтирів: замість віри словам і вчинкам людей суспільство може почати орієнтуватися виключно на те, що про їхній стан "повідомляє" технологія.Читайте більше: OpenAI кинула виклик Microsoft: ChatGPT перетворюється на ШІ для всьогоЗахист емоційної приватності та майбутнє регулюванняСьогодні Європейський акт про ШІ (EU AI Act) вже обмежує використання технологій розпізнавання емоцій, проте переважно через їхню низьку точність на даному етапі.Дослідження Прежан спрямоване на довгострокову перспективу: коли алгоритми стануть безпомилковими, суспільству знадобляться сильніші етичні аргументи для обмеження їхнього застосування.Технології ERT не є виключно негативними - вони можуть допомогти у ранній діагностиці неврологічних розладів або сприяти людям, які мають труднощі з розпізнаванням емоцій.Проте захист емоційної приватності, стверджує науковиця, не лише захист інформації. Це збереження соціального простору, у якому людина сама вирішує, як позиціонувати себе та будувати стосунки з іншими.Ще більше цікавого:Вперше за 260 років: ШІ допоміг прочитати рукопис масонського орденуШІ-фейки про загиблих українців поширюють у соцмережах: як не стати жертвою