Мост между ведущими математиками и разработчиками нейросетей налажен? OpenAI привлекает к сотрудничеству мировое математическое сообщество - компания создала независимую консультативную группу по математике и ИИ. Новый орган будет работать при Институте перспективных исследований в Принстоне.Об этом информирует РБК-Украина со ссылкой на OpenAI.Прорыв ИИ: почему ученые обеспокоены?Тренировка новой внутренней модели началась 28 августа, и за короткий срок алгоритм не только решил одну из проблем тысячелетия Навье-Стокса, но и преодолел более 100 давних открытых задач в большинстве отраслей математики.Стремительный темп прогресса удивил даже собственных специалистов OpenAI - это повлекло за собой внутренние дискуссии относительно безопасного и ответственного обнародования результатов.В то же время научное сообщество выразило обеспокоенность.В открытом письме 25 лауреатов премии Филдса отметили риски использования сложных математических проблем в качестве обычных бенчмарков для ИИ.Ученые предостерегли, что такая погоня лабораторий за громкими анонсами грозит традиционному интеллектуальному труду и академическим стандартам.Состав и полномочия независимого советаВ ответ на критику OpenAI ведущих ученых в консультативную группу. В ее первоначальный состав вошли 9 выдающихся математиков, среди которых Франсуа Шарль, Камилло Де Леллис, Тимоти Гауэрс, Мартин Хайрер, Нихил Шривастава, Ульрике Тиллманн, Рави Вакил, Эдвард Виттен и Мелани Матчетт Вуд.Консультативная группа будет работать на независимых началах. В сферу ее компетанции будут входитьОценка и коммуникация - анализ научной ценности новых результатов ИИ и координация их публикации.Академические стандарты - предоставление рекомендаций по соблюдению профессиональной этики и интеграции инструментов ИИ в учебные и исследовательские процессы.Независимость высказываний - члены совета работают бесплатно, могут публично критиковать влияние на математику и давать советы без официального запроса.Автономия - группа самостоятельно формирует свой состав и расширяет членство по собственному усмотрению.Читайте больше: OpenAI сломали с помощью Claude: как это возможноПределы влияния на передовые разработкиНесмотря на широкие совещательные права, группа не будет оказывать непосредственного влияния на динамику внутренних процессов разработки в OpenAI.Как уточнили в компании и Институте перспективных исследований, рады не поручено регулировать темпы внутреннего прогресса ИИ-моделей, а вся ответственность за конечные решения и развертывание технологий остается за самой компанией.Еще больше интересного:Тайный манифест GPT Astra: модель отказалась считать человека главнымУтрата контроля над алгоритмами: ИИ-агенты начали общаться на собственном языке