Искусственный интеллект

Маленькие модели входят в большую игру

Самый полезный ИИ необязательно живёт в дата-центре. Иногда ему достаточно оказаться рядом — на устройстве и без задержки.

Прозрачный исследовательский прибор с сетью стеклянных узлов

Гонка параметров продолжается, но рядом с ней возникает более практичная дисциплина: сделать модель достаточно умной, чтобы она работала локально, быстро и предсказуемо.

Компактная модель не пытается знать всё. Её сила в специализации: распознать контекст разговора, разобрать документ, помочь камере или управлять функцией устройства. Чем яснее задача, тем меньше вычислений требуется для хорошего результата.

Локальная работа меняет не только скорость. Данные могут остаться на устройстве, а функция продолжает работать без устойчивого соединения. Для повседневной техники это важнее рекорда в абстрактном тесте.

Разработчики всё чаще строят систему из нескольких уровней. Быстрые задачи решаются рядом с пользователем, сложные отправляются большой модели, а маршрутизатор выбирает между ними. Такой гибрид делает интеллект менее заметным, но более полезным.

Будущее ИИ, вероятно, будет похоже не на одного всезнающего собеседника, а на хороший набор инструментов. Каждый понимает свою работу, не мешает остальным и появляется именно тогда, когда нужен.