«Резистивный» процессор ibm ускорит обучение нейросетей в 30 тыс. раз

Совокупности Гугл AlphaGo чтобы добиться знаменательной победы над мировым чемпионом по игре Го, потребовались тысячи чипов. Инженеры IBM уже трудятся над разработкой, которая разрешит вместить такие и ещё громадные интеллектуальные свойства всего в одну микросхему.

Сотрудники компании Тайфун Гокмен (Tayfun Gokmen) и Юрий Власов внесли предложение концепцию нового чипа Resistive Processing Unit (RPU), талантливого обеспечить ускорение обучения нейросетей (Deep Neural Networks, GNN) в 30 тыс. раз по сравнению с классическими процессорами.

«Совокупности, складывающейся из кластера ускорителей RPU, окажутся по плечу нерешаемые сейчас неприятности громадных данных с триллионами параметров, такие как перевод и распознавание естественной речи между всеми существующими в мире языковыми парами, аналитика в настоящем времени интенсивных потоков рабочий и научной информации, анализ и интеграция разнородных потоков данных от огромных массивов сенсоров IoT», — написали они в статье, размещённой на ресурсе Arxiv.org.

«Резистивный» процессор ibm ускорит обучение нейросетей в 30 тыс. раз

в течении последней пары десятилетий достигнут большой прогресс в повышении скорости машинного обучения за счёт применения графических процессоров, массивов программируемой логики FPGA и кроме того специальных микросхем (ASIC). Предстоящее ускорение, по точке зрения авторов, требует параллельности алгоритмов и использование локальности. Для этого команда IBM позаимствовала необходимый принцип у разработок энергонезависимой памяти нового поколения — фазовой (PCM) и резистивной (RRAM).

Сама по себе такая память способна ускорить DNN в 27–2140 раз, но исследователи уверены в том, что, убрав кое-какие конструкционные ограничения запоминающих ячеек, возможно взять ещё более впечатляющий итог. Они утверждают, что в случае если создать новый чип, базирующийся на новой памяти, но по их собственным спецификациям, скорость работы метода возможно увеличена в 30 тыс. раз. Наряду с этим энергопотребление и размеры устройства будут оставаться в разумных пределах.

Реализовать новую концепцию в коммерческом ответе, возможно, окажется лишь через пара лет, в то время, когда указанные разработки памяти достигнут рыночного уровня. Тем не меньше, изучение выглядит многообещающим и, кроме самой IBM, без сомнений привлечёт внимание многих вторых компаний, таких как Гугл, заинтересованных в большом совершенствовании разработок ИИ.

«Резистивный процессор» IBM может ускорить обучение нейронных сетей в 30000 раз


Темы которые будут Вам интересны: