OpenAI представила новый формат MXFP4 для языковых моделей

Компания OpenAI анонсировала новые модели с открытым весом gpt-oss, привлекая внимание специалистов к формату MXFP4, применённому в их квантовании. Этот 4-битный формат чисел с плавающей запятой, разработанный в рамках Open Compute Project, может значительно снизить затраты на развертывание и эксплуатацию крупных языковых моделей.

MXFP4 использует микромасштабируемую блочную структуру для повышения точности, объединяя группы значений с общим масштабным коэффициентом. Это позволяет сохранить информацию при уменьшении размера чисел до 4 бит. Например, преобразование чисел из формата BF16 в MXFP4 демонстрирует минимальные потери точности, что делает его особенно привлекательным для облачных платформ.

По данным OpenAI, 90% весов модели gpt-oss переведены в MXFP4, что позволило 120-миллиардной модели функционировать на GPU с 80 ГБ видеопамяти. Переключение на MXFP4 может снизить затраты до 75% для моделей, обученных в формате BF16.

Тем временем, 11-12 сентября в Москве пройдет конференция Moscow Forensics Day 2025, посвященная цифровой криминалистике и информационной безопасности. Участников ждут выступления экспертов, знакомства с новыми трендами и возможностями в сфере информационной безопасности.

Регистрация бесплатная, но обязательная для участия. Более подробную информацию можно найти на сайте мероприятия.