Архитектура 3D FeNAND позволяет выполнять аналоговые вычисления непосредственно в ячейках памяти Южнокорейская SK hynix представила технические подробности архитектуры 3D FeNAND, которая позволяет выполнять вычисления непосредственно внутри флеш-памяти NAND. Компания сообщает, что в определённых сравнениях экспериментальных архитектур при сопоставимой площади кристалла удалось получить пропускную способность в 10–20 раз выше, а энергоэффективность — в 4000–5000 раз выше. Эти показатели относятся к изученным структурам памяти и не являются сравнением с современными графическими процессорами или готовыми серверами для искусственного интеллекта. Технология называется Analog Compute-in-Memory (A-CiM) — аналоговые вычисления внутри памяти. В обычных компьютерах данные приходится передавать из памяти в процессор для обработки, а затем записывать обратно. При работе с большими ИИ-моделями такой обмен многократно повторяется, в том числе при загрузке весов нейросети — параметров, определяющих её работу. В архитектуре A-CiM сами ячейки памяти участвуют в умножении и сложении значений, лежащих в основе вычислений нейросетей. Это позволяет сократить объём передачи данных между памятью и вычислительными блоками. Источник изображения: сгенерировано Muse В 3D FeNAND используются сегнетоэлектрические ячейки на основе оксида гафния-циркония (HZO). В отличие от обычной NAND-памяти, где данные хранятся посредством захвата электрического заряда, здесь состояния задаются поляризацией сегнетоэлектрического материала. Это позволяет представлять значения весов модели через разные уровни электрического тока. Одна из сложностей такого подхода — необходимость точно и воспроизводимо задавать аналоговые состояния. SK hynix исследует программирование с помощью последовательности импульсов напряжения, постепенно изменяющих состояние ячейки. По данным компании, на экспериментальных структурах удалось различить четыре уровня тока на ячейку при низких значениях тока. Помимо самих ячеек, разработчики оптимизировали электрические соединения и организацию вычислений. Использование проводников с меньшим сопротивлением и воздушных промежутков между отдельными структурами позволило почти на 60% снизить паразитную ёмкость в изученных конструкциях. Другой метод, In-Page Pipelining, распределяет вычисления нейросети внутри одной страницы памяти. В симуляции он обеспечил девятикратный рост пропускной способности относительно исходной архитектуры, использованной для сравнения. Учёные также изучили разделение страницы объёмом 16 КБ на четыре области, но оптимальная схема зависит от структуры нейросети: чрезмерное распределение вычислений по разным участкам может увеличить число переключений и замедлить обработку. До коммерческого применения технологии предстоит проверить стабильность аналоговых состояний при длительном хранении, точность вычислений, выход годных изделий при производстве и сложность интеграции управляющих схем. SK hynix не сообщила сроки массового выпуска 3D FeNAND.