Автором материала является K-News. Любое копирование или частичное использование возможно по разрешению редакции K-News.Что если ChatGPT уже обладает сознанием, а мы этого просто не понимаем? Потому что до сих пор толком не знаем, что это вообще такое — сознание, говорит Эрик Хоэл, нейробиолог, практикующий исследователь, автор научного триллера The Revelations и популярного на Substack канала The Intrinsic Perspective.В психологии сознание определяют как способность воспринимать внешние и внутренние сигналы и понимать их значение. В философии — как субъективный опыт, ощущение себя живым существом в данный момент. В нейробиологии — как поток переживаний, который запускается при пробуждении и останавливается в глубоком сне.Если сверить эти определения с возможностями искусственного интеллекта, совпадений немало. Он может рассуждать о себе — элемент самоосознания. Он анализирует и корректирует свои ответы — форма рефлексии. А вот субъективный опыт, способность переживать «изнутри», остается за пределами проверки. Но и у человека доказать это строго невозможно: мы лишь принимаем сознание друг у друга как факт.Откуда такая неопределенность в столь фундаментальном вопросе? Хоэл объясняет это засильем расплывчатых теорий, которые описывают сознание как «рабочее пространство», «мысли о мыслях», «театр разума», без опоры на точные математические и нейробиологические модели, которые можно проверить на практике. Вероятно, по этой причине исследования сознания часто воспринимаются как умственная гимнастика — занятие интересное, но бесплодное для реальной науки.Ситуация изменилась лишь совсем недавно — с появлением Integrated Information Theory (IIT). Согласно теории интегрированной информации, сознание возникает там, где разрозненные данные связываются в единое целое и превращаются в нечто не существовавшее прежде. Например, мозг фиксирует круглый предмет, красный цвет, определенный размер и место действия — и все это складывается в одно переживание: красный футбольный мяч, летящий по стадиону. Чем сложнее и разветвленнее такие связи, тем выше уровень сознания. В этом смысле сознанием может обладать и достаточно сложный компьютер.Хоэл считает IIT пока что единственной научной моделью сознания. Тут он, конечно, немного субъективен. Ведь он защищал докторскую диссертацию под руководством профессора Джулио Тонони, которого называют крестным отцом IIT. Кстати, вдохновившись этой теорией, Хоэл и сам разработал теорию причинной эмерджентности (causal emergence theory), основную идею которой можно выразить так: даже если на микроуровне — среди атомов, молекул и нейронов — причинно-следственные связи трудно различимы, потому что отдельные элементы взаимодействуют хаотично, на макроуровене — если рассматривать целую клетку или тем более весь организм — проступают устойчивые и предсказуемые закономерности.Горькая ирония в том, что в 2023 году десятки ведущих экспертов подписали письмо, в котором теория сознания Тонони была названа «псевдонаукой». Ситуация напоминает Хоэлу то, что происходило с «сознанием» в середине прошлого века. Тогда само это понятие в науке было табуировано, потому что считалось чуть ли не эзотерическим. Этот период Хоэл называет в своей книге The World Behind the World «зимой сознания». Сейчас, по его логике, наступает «оттепель», но если проблему попытаются заморозить снова, последствия могут быть куда более серьезными.Вдруг следующая версия ИИ окажется достаточно сложной, чтобы начать создавать новые интеллектуальные миры, — сможем ли тогда мы без адекватной теории сознания предсказать ее поведение или понять ее намерения?Ниже текст статьи:Недавно Big Think поговорил с Эриком Хоэлем о возможности того, что новая «зима сознания» может снова отодвинуть на второй план исследования разума. Хоэль утверждает, что «настоящим узким местом» современных исследований сознания является нехватка хороших идей. Он предполагает, что создание общего искусственного интеллекта может привести к тому, что люди начнут думать, что ИИ не обладает сознанием, а скорее, что он очень разумен, и поэтому сознание не имеет большого значения.Примерно 150 лет назад Уильям Джеймс из Гарвардского университета стал одним из первых преподавателей, предложивших курс психологии в Соединённых Штатах. Среди прочих идей Джеймс выдвинул понятие «потока сознания» и призвал своих студентов к его исследованию, надеясь, что эта концепция приведёт к появлению новых идей в этой зарождающейся дисциплине. Безрезультатно. В 1913 году психолог Джон Уотсон предположил , что подлинная психология должна основываться на том, что мы объективно наблюдаем, а не на предположениях о психическом состоянии человека. К 1930-м годам в этой области доминировал редукционистский, радикальный бихевиоризм Б. Ф. Скиннера. Живые существа (кроме людей) рассматривались как автоматы, а размышления о субъективном опыте были фактически запрещены в экспериментальной психологии. В своей последней книге «Мир позади» писатель и нейробиолог Эрик Хоэль описал этот период, продолжавшийся до 1990-х годов, как «зиму сознания» — искусное выражение, отражающее отсутствие новых, новаторских идей в этой области. С тех пор, пишет Хоэль, мы увидели множество новых идей и научных исследований о сознании — настоящую весну, если таковая когда-либо существовала. Среди них: Интегрированная теория информации . На самом базовом уровне ИИТ утверждает, что сознание возникает из интегрированной информации в физической системе, и пытается понять свойства опыта внутри этой системы, используя математику и нейронауку.Хоэль бы знал. Он получил докторскую степень в Университете Висконсин-Мэдисон под руководством профессора Джулио Тонони , крёстного отца ИИТ. Позже он создал теорию причинно-следственной связи , которая предлагает схему возникновения причинности в большой системе, когда её составные части кажутся лишь слабо связанными — например, как мы состоим из атомов и обладаем сознанием, а атомы — нет.После перерыва, связанного с написанием книг — как художественных , так и документальных — и популярного подстека «Внутренняя перспектива» , призванного навести мосты между культурами естественных и гуманитарных наук, Хоэль вернулся к научным исследованиям, опубликовав статью о математике эмерджентности. Я встретился с ним, чтобы поговорить о следующем поколении исследователей сознания, о том, куда, по его мнению, движется его область, и о его опасениях по поводу наступления новой зимы сознания. Сознание часто считают сложным для определения, но вы с этим не согласны. Какое определение принято и отточено в области исследований сознания?Люди ведут себя так, будто определение сознания — это какая-то великая загадка, но, на мой взгляд, на самом деле сложно придумать удовлетворительную теорию сознания. Определение — это просто то, что делается по ходу дела, и это скорее похоже на то, как все «указывают» на одно и то же. Если я не знаю, что вода — это H₂O , я всё равно могу указать на воду. Думаю, это произошло в последние три десятилетия в исследованиях сознания. Мы практически все указываем на одно и то же. Рабочее определение сознания — это ваш личный поток опыта, который начинается с утреннего пробуждения и исчезает, когда вы погружаетесь в глубокий сон без сновидений. Это то, каково это — быть собой.Является ли Интегрированная теория информации по-прежнему вашей предпочтительной теорией сознания?Это моя любимая теория, потому что она намного лучше других. То есть, она действительно заслуживает термина «теория». Я не уверен, что другие его действительно заслуживают. В настоящее время мне неизвестна ни одна теория, которая могла бы фактически функционировать как теория сознания, помимо ИИТ. Это становится очевидным, если подойти к этому со всей строгостью. Для любой системы, например, состояния мозга, теория должна быть способна сопоставить её с набором всех возможных переживаний — ощущений, мыслей и т. д. ИИТ может, по крайней мере, дать вам ответ, учитывая все связанные с этим сложности. И она может сделать это для любой системы, которую вы только можете себе представить. Другие теории даже близко не могут приблизиться к этому. Например, какой масштаб описания вы используете при картировании? Я могу описать ваш мозг в терминах атомов, молекул, нейронов, миниколонок, областей мозга и так далее. Какую мне использовать? Может ли какая-либо другая теория ответить на этот вопрос? Как правило, нет, конечно, нет. Они понятия не имеют, потому что никогда не заходят так далеко. ИИТ даёт ответ. Вы можете с ним не соглашаться, но это ответ, и он гораздо лучше, чем никакого ответа.Сейчас существует хорошо финансируемая программа исследований сознания, в рамках которой учёные с противоположными взглядами или гипотезами работают вместе, разрабатывая и проводя эксперименты для разрешения своих разногласий посредством совместных исследований и публикаций. Считаете ли вы это продуктивным?Да, и я это поддерживаю. Но я также считаю, что эмпирические данные не являются для нас узким местом. Однажды люди поймут, что эмпирические инструменты нейронауки просто не подходят для этой задачи. По этой причине нельзя ориентироваться на данные. Настоящее узкое место — это хорошие идеи. Это большая редкость для какой-либо области. Или для любой ситуации в целом. Если бы какой-нибудь богатый спонсор действительно хотел получить 15% шанс изменить весь мир, он бы сел и дал двум-трём десяткам молодых теоретиков, работающих над сознанием, несколько лет финансирования, чтобы они могли заниматься чем угодно, лишь бы это было связано с сознанием. Не думаю, что где-либо ещё можно получить такую ожидаемую отдачу от инвестиций. К тому же, это было бы гораздо дешевле, чем финансировать множество противоборствующих проектов.В 2023 году, после первой крупной состязательной коллаборации, противопоставившей теорию интегрированной информации теории глобального нейронного рабочего пространства , многие ведущие учёные в области сознания подписали письмо, в котором ИИТ была названа лженаукой. Вы публично раскритиковали это письмо , заявив, что опасаетесь, что результатом может стать новая «зима сознания». Что вы имели в виду?Меня особенно беспокоило повторение того, что произошло в науке на протяжении значительной части XX века , когда слово «сознание» было под запретом. Если посмотреть на частоту употребления слова «сознание», то можно увидеть, что оно резко упало, начиная с начала века, достигнув минимума около 1940 года, а затем медленно поднявшись снова. Сознание считалось чем-то слишком философским, слишком странным. Но проблемы никуда не исчезали — они десятилетиями оставались в ящике. Как только этот ящик открыли в 60-х, 70-х и вплоть до 1990-х, все старые вопросы с грохотом вернулись.Как может выглядеть новая зима?Как иссякание финансирования. Как иссякание интереса. Культурное и интеллектуальное пренебрежение. Думаю, причиной могут быть внутренняя критика и распри, но также и ИИ. Если ИИ достигнет общего уровня интеллекта [что позволит ему выполнять задачи так же хорошо, как и люди], я думаю, что среднее мнение будет заключаться в том, что ИИ не обладает сознанием, но разумен, а не в том, что ИИ одновременно сознателен и разумен. Но это первое мнение имеет очевидный смысл: наше сознание не имеет большого значения. Из чего может следовать, что либо сознание вообще не стоит изучать, либо его вообще не существует. Думаю, это наиболее вероятный путь к новой зиме сознания.Вы представляете новое, молодое поколение учёных, которые сейчас пытаются разгадать загадку сознания. Чем вы отличаетесь от предыдущих поколений?Сейчас в этой области много бывших математиков и физиков. Они привносят нечто новое, а именно способность создавать формальные теории, которые делают точные предсказания, имеют точные, определяемые правила и так далее. Уже несколько десятилетий в исследованиях сознания наблюдается множество «теоретических махинаций» — пережиток, по сути, нейробиологии в целом. Такие вещи, как «может быть, это большое рабочее пространство» или «может быть, это мысли, думающие о других мыслях». Всё это звучит хорошо — и я не говорю, что это плохо — но это определённо то, от чего следует отказаться. Теории сознания, действующие на широком лингвистическом уровне, были великолепны в 1980-х годах. Сейчас самое время говорить конкретно и предлагать конкретную количественную оценку.На протяжении большей части своего прошлого исследования сознания всегда казались довольно антагонистичными. Конкурирующие теории сталкиваются с большими эго. Как вы думаете, ваше поколение исследователей сознания начинает отказываться от этого статус-кво? Я действительно считаю, что конкуренция стала меньше. Одна из причин заключается в том, что теперь не обязательно быть знаменитым в другой области, чтобы быть исследователем сознания. Рецепт для раздутого эго — требовать, чтобы кто-то был знаменитым ранее, чтобы предлагать идеи. Это странное требование теперь ушло в прошлое, и поэтому эта область науки стала менее враждебной для молодого поколения в целом.Вы писали , что во время обучения в докторантуре вам неоднократно говорили, что философия опасна. Вы согласны?Наоборот. Многим нейробиологам было бы очень полезно больше читать философские труды. Слишком часто встречается наивность, и поэтому продвигаются чрезвычайно простые, почти детские идеи. Но в то же время философы склонны недооценивать учёных. В конечном счёте, именно учёные, а не философы, добьются прогресса в изучении сознания. Поэтому нам нужно больше философии от учёных и больше науки от философов.Почему так важно иметь научно обоснованную теорию сознания? Прогресс может быть практически невообразимым, поскольку мы не знаем, какие возможности допускает теория. Например, возможность делать осознанный моральный выбор. Допустим, теория сознания показывает, что куры не обладают сознанием. Они ничего не чувствуют. И уж точно не чувствуют боли. Это радикально меняет само понятие вегетарианства. Мы можем свободно есть кур так же, как кукурузу. Это небольшой пример, но суть в том, что он затронет огромное количество моральных соображений. Где начинаются и заканчиваются границы морального круга? Помимо ставок на столах, есть такие вещи, как создание сознательного ИИ. Возможно, он будет обладать другими возможностями по сравнению с большими языковыми моделями, например, большей надёжностью и читаемостью. Всё может пойти очень дико, в зависимости от того, что допускает теория. Существует некоторая ненулевая вероятность, что она допускает совершенно научно-фантастические возможности, например, обмен телами. Я серьёзно. Мы просто не будем знать, пока не получим хотя бы очень привлекательный черновик теории, которого у нас нет.Запись Что если ChatGPT уже обладает сознанием, а мы этого просто не понимаем? Мнение нейробиолога впервые появилась K-News.