Специализираният хардуер на Microsoft за изчисляване на AI се нарича Brainwave и е създаден по такъв начин, че да управлява невронна мрежа възможно най-бързо с минимална латентност.

Компанията обяви, че след като използва Brainwave, успява да получи десет пъти по-бърза производителност от AI на Bing. Моделът на машинно обучение основно засилва функционалността на търсачката.

Целта на Microsoft, която трябва да бъде постигната чрез Brainwave, е да предостави AI прогнози в реално време за приложения като най-новите функции на Bing.

Bing получава нови функции

Microsoft също така дава на Bing няколко нови функции, като най-важните, които си струва да се споменат, предлагат повече отговори на въпросите за практически въпроси и поддръжка за определяне на думи, които не се използват толкова често, когато потребителите преместват курсора на мишката върху тях. Тези функции се захранват от Brainwave.

Microsoft използва FPGA на Intel за захранване на AI изчисления

FPGA са вид празни платна, които разработчиците могат да използват, когато искат да разгърнат различни схеми, като изпращат нов софтуер. Това включва мощен микс от производителност и програмируемост.

Сега Microsoft може да направи повече от създаването на по-бързи модели с хардуера; компанията може да изгради и по-сложни AI системи. Например, прототипът на Ting на Bing сега е десет пъти по-сложен и по-бърз благодарение на изчислителния капацитет, добавен чрез Brainwave.

FGAs, внедрени от Microsoft, идват със специализирани цифрови сигнални процесори на борда, подобрени за сложна математическа интеграция.

Основната полза от FPGAs

Най-същественото предимство на FPGA над графичните процесори (което се превърна в предпочитан избор за изчисляване на AI) е, че те не изискват широко използване на партидни изчисления.

Ключова иновация позволява на Microsoft да постигне такива успешни резултати чрез FPGAs е използването на 8 и 9-битови типове данни с плаваща запетая, които радикално увеличават производителността.

FPGA чиповете на Intel позволяват на Bing бързо да чете и анализира милиарди документи в цялата мрежа и да предостави най-добрия отговор на вашия въпрос за по-малко от част от секундата.

Всъщност FPGA на Intel ни позволиха да намалим латентността на нашите модели с повече от 10 пъти, като същевременно увеличихме размера на модела си с 10 пъти.

Използването на FPGA за ускоряване на AI изчисленията датира от 2012 г.

Microsoft започна да използва FPGA, за да подобри скоростта на изчисляване на AI преди повече от шест години, когато екипът на Bing започна да използва чиповете. Всичко това е страхотна новина и за Intel. Компанията закупи Altera, производител на FPGA през 2015 г. и сделката с 16, 7 милиарда долара предостави на Intel необходимата мощност за подхранване на нуждите на Microsoft до днес.

Очакваме с нетърпение да видим Brainwave на разположение чрез Microsoft Azure, за да предложим на клиентите възможността да разгърнат своите модели.