Цифровой ум зашел в тупик из-за ошибочной гипотезы, выдвинутой еще в 1950 году Известный компьютерный ученый Питер Дэннинг в своей новой книге заявил, что концепция Алана Тюринга "зациклила" разработчиков на невозможной идее создания "бесплотного ума".Об этом сообщает РБК-Украина со ссылкой на книгу Дэннинга - "Turing's MistakeEscaping the Yoke of Unintelligent Machine".Проблема "неявного знания": барьеры, которые машины не справятсяГлавный аргумент Дэннинга строится вокруг концепции неявного знания (tacit knowledge) - огромного пласта человеческого опыта, который невозможно описать словами, закодировать в биты или передать символами.Ученый выделяет 5 основных сфер человеческого бытия, которые недостижимы для машинного обучения.Здравый смысл и фоновые жизненные знания;Ежедневное взаимодействие с другими людьми и физической средой;Чувства, эмоции и внутреннее восприятие мира;Практические навыки и мастерство ("знать как" в противоположность теоретическому "знать что");Социальная и историческая культура.Практика доказывает невозможность оцифровки этих сфер. К примеру, амбициозный проект Cyc Дугласа Лената с 1980-х годов пытался создать полную базу фактов здравого смысла.За 40 лет человеческого труда база накопила 25 миллионов записей, однако экспертные системы так и не стали разумными.Читайте больше: Внутри Claude нашли аналог человеческого сознания: что это значитПохожая проблема возникает и с практическими навыками: выдающийся скрипач играет гениальную музыку, но не способен на язык передать ученику физическое ощущение своего мастерства.Даже робот, скопирующий движения музыканта, не будет иметь тела, чтобы почувствовать красоту игры или реакцию слушателей.Контекст, культура и опасность неподконтрольных сетейСледующим непреодолимым препятствием для ИИ является контекст ситуации и культурное измерение. Именно контекст определяет, является ли фраза сарказмом, шуткой или проявлением агрессии.Контекст всегда строится на бесконечной цепочке предыдущих разговоров и опыта. Большие языковые модели, тренируясь на гигантских массивах данных, просто изучают статистические связи между словами, оставаясь "слепыми" до их подлинного содержания и культурного бекграунда.Больше интересного: ИИ стал хакером: впервые сам похитил данные и потребовал выкупДэннинг убежден: вместо дружеского человеческого интеллекта масштабирование нейросетей ведет к созданию совершенно чужого и опасного машинного разума.Агентные сети машин начинают формировать собственное "машинное неявное знание". Люди не могут прочесть логику решений ИИ, а машины не способны понять человеческие мотивы.Из-за этой взаимной глухоты, считает исследователь, надежное согласование целей ИИ с намерениями людей становится невозможным.Угроза заключается не в захвате мира "надрозумом", а в хаосе, который могут создать автономные низкоинтеллектуальные машины, не имеющие никакого представления о человеческих ценностях и эмпатиях.Еще больше интересного:OpenAI и Google предоставили доступ к ИИ компаниям из черного списка ПентагонаИИ впервые за 2000 лет прочитал свитки, уничтоженные извержением Везувия.