Представьте автономную ИИ-систему, которая управляет городской энергосетью: она минимизирует издержки, держит напряжение стабильным и выглядит идеально по всем техническим метрикам. А потом выясняется, что в часы пикового спроса она систематически приоритизирует богатые районы, оставляя малообеспеченные кварталы более уязвимыми к отключениям. Именно такие скрытые провалы ищет SEED-SET — автоматизированный фреймворк, который инженеры MIT представили 2 апреля. В экспериментах он сгенерировал более чем вдвое больше значимых тест-кейсов, чем базовые методы, за то же время — и нашел сценарии, которые другие подходы попросту пропускали. Работу представят на конференции ICLR. Читать далее