Разработчики пытаются скрыть уязвимости нейросетей? Anthropic и OpenAI хотят контролировать материалы независимых экспертов, проверяющих безопасность их ИИ-моделей. Компании опасаются, что публикация таких документов может привести к раскрытию коммерческих тайн и технологических разработок.Об этом пишет РБК-Украина со ссылкой на Reuters.Споры из-за права на публикациюРазработчики опасаются, что привлеченные аудиторы могут передать секретные технологии конкурентам. Поэтому лаборатории пытаются ограничить право оценщиков свободно публиковать свои выводы без предварительного одобрения.Ситуация вызывает беспокойство в научном сообществе, ведь информация, которую компании считают коммерческой тайной, часто совпадает с данными о потенциальных рисках и опасности ИИ-моделей.Для защиты данных рассматриваются следующие мерыНаблюдение за аудиторами : установление надзора со стороны штатных работников компании при работе внешних специалистов.Запрет совместительства: аудиторам запретят одновременно работать в нескольких конкурирующих ИИ-лабораториях. Больше интересного: Опасный сбой в ИИ: Claude проник в чужие системы, воспринимая их за симуляциюПозиция Anthropic и OpenAIВ Anthropic объяснили, что для новых независимых оценщиков компания оставляет за собой право комментировать и утверждать отчеты во время проверки моделей.В то же время, по словам представителей компании, внешние аудиторы самостоятельно выбирают методы оценки и формулируют окончательные выводы.В OpenAI сообщили, что не требуют полного редактирования текстов, однако обычно изымают конфиденциальную информацию.Показательным стал инцидент на платформе Hugging Face, где автономные ИИ-агенты повлекли за собой сбой инфраструктуры.Готовя итоговый отчет OpenAI изменила его структуру, тон и акценты и изъяла непубличные данные, однако исследователи заверили, что основные выводы остались неизменными. Не пропустите: Суперинтеллект вместо ИИ: Трамп издал указ о полном ребрендинге технологииОтсутствие четких стандартов и законовБеспокойство экспертов усиливается из-за отсутствия законодательно закрепленных правил независимого оценивания.В конце прошлого месяца президент Дональд Трамп и руководители ИИ-компаний подписали Соглашение Белого дома о суперинтеллекте, которое предусматривает проведение независимых проверок.Однако документ не содержит четких инструкций по поводу того, как именно должны проводиться эти исследования.Более 200 ученых и исследователей подписали открытое письмо с требованием обеспечить полную независимость проверок, широкий доступ к моделям и защиту аудиторов от возможных санкций со стороны технологических гигантов.Еще больше интересного:Трамп основает Силы ИИ: в США назначат специального "царя" для индустрииOpenAI сломали с помощью Claude: как это возможно