– Глубокие нейронные сети постоянно усложняются, содержат сотни миллионов и более коэффициентов, что требует большей вычислительной мощности. Это ограничивает возможность использования центральных процессоров в системах искусственного интеллекта. Исследователи Smart Engines решили эту проблему, предложив качественное улучшение 8-битной модели – 4,6-битные сети. Они работают быстрее 8-битной модели на 40%, но практически не уступают ей по качеству за счет более эффективного использования особенностей центральных процессоров мобильных устройств, – объяснил цели разработки гендиректор компании Владимир Арлазаров.
Также добавили, что быстрая и высокоэффективная нейросеть сегодня нужна везде и всем:
– Каждый человек хочет, чтобы у него на мобильном телефоне был ChatGPT. И 4,6-битные модели – важный шаг на этом пути. Они позволяют, с одной стороны, снизить затраты на оборудование для уже существующих решений. С другой – решить совершенно новый класс задач компьютерного зрения на текущем оборудовании, где раньше не хватало вычислительных ресурсов.
К слову, сегодня работа с ИИ доступна на специализированных видеокартах, но не все компьютеры ими оснащены. Но в каждом пользовательском устройстве (на компьютере или в смартфоне) имеется центральный процессор, и для него использование 8-битных нейронных сетей является мировым стандартом. Как рассказали в Smart Engines, 4,6-битные нейросети – более «легкие», их проще использовать в центральных процессорах на разных устройствах.
Фото freepik.
