Актуальные предложения от Huawei
В зависимости от «IT-зрелости» компании-заказчика корпорация Huawei может предложить на каждый этап трансформации свой вариант решения, что позволит наилучшим образом оптимизировать процесс и модернизировать систему без лишних финансовых затрат. Но в данной статье речь пойдет о самом сложном этапе совершенствования – искусственный интеллект в работе ЦОД, какие сложности и риски могут возникнуть и в чем чистая выгода проекта.
Сравнивая работу ЦОД и человеческий организм, можно убедиться, что действие док-центра – это полноценная работа кровеносной системы. Проникая во все сферы жизни, центр обеспечивает надежную взаимосвязь каждого рабочего органа (узлы вычисления, хранилище данных и пр.).
С тех пор, как твердотельные накопители данных стали доступны широким массам, а производительность процессоров растет все больше с каждым днем, эти рабочие узлы больше не влияют на скорость обработки информации. Тогда как традиционные ЦОД все еще не дотягивают до стандартов.
Многие компании бились над решением проблемы. Внедрялись фирменные IB-технологии (InfiniBand), что позволяло охватить лишь узкий круг специализированных задач. Подход строить сетевые фабрики по FC-стандартам (Fibre Channel) был неоправданно дорогим. Оба предложения имели больше минусов, чем плюсов, и слабо подходили под универсальные проекты.
И лишь альтернативное решение от Huawei с применением открытых технологий оказалось действенным и удовлетворяло максимум потребностей системы. Для внедрения идеи за основу была взята более усовершенствованная версия RoCE второй модификации, для расширения возможностей которой в коммутаторы компании внедрили фирменные алгоритмы, что позволило в разы оптимизировать возможности сети.
Уже давно понятно многим, что традиционные FC-решения являются устаревшими и будущего не имеют. В соответствии с потребностями, классические сетевые фабрики работают по принципу статического выделения кредитов и лишь на ограниченный срок. И даже применение для хранения данных автономных сетей не позволило увеличить пропускную способность.
На сегодняшний день на пике популярности находится технология уже шестого поколения, стабильно гарантирующая производительность 32 Гбит в секунду, а порой достигая колоссальных 64 Гбит/с. Широкие возможности сети Интернет выдают и более гигантские значения в 200 и даже 400 Гбит/с к серверу и обратно.
Стремление Huawei заключается в том, чтобы дать сети хранения данных на основе твердотельного накопителя раскрыть свой потенциал как можно шире. Поскольку именно SSD со скоростными интерфейсами в последнее время заполонили большую часть рынка и уверенно вытесняют классические диски.
Особенности нового процессора Huawei
Мобильный чип Kirin 970 представляет собой 8-ядерный 64-битный процессор на базе четырех ядер ARM Cortex-A73 с тактовой частотой 2,4 ГГц и 4 ядер ARM Cortex-A53 с тактовой частотой до 1,8 ГГц. Чип оснащен встроенной 12-ядерной графикой нового поколения Mali-G72 MP12 и рядом вспомогательных сопроцессоров для ускорения специфических вычислительных задач.
Архитектура мобильного процессора Kirin 970
Чип содержит 5,5 млрд транзисторов, размещенных на кристалле площадью 1 кв. см, и выпускается на производственных мощностях компании TSMC с соблюдением самых прецизионных на сегодняшний день норм 10 нм технологического процесса FinFET.
Новый флагманский процессор Kirin 970 представляет собой «мобильную платформу для решений задач ИИ». В его состав входит так называемый нейронный процессорный модуль (NPU, Neural Processing Unit, NPU) для скоростной обработки задач искусственного интеллекта с минимальным расходом энергии.
По сравнению с 4-ядерным кластером Cortex-A73, новая гетерогенная архитектура Kirin 970, по данным Huawei, «обеспечивает 25-кратный выигрыш в производительности и в 50 раз более высокую эффективность». Таким образом, Kirin 970 способен выполнять «те же задачи в сфере искусственного интеллекта быстрее и с меньшими энергетическими затратами». Согласно внутренним тестам компании, на тесте по распознаванию изображений Kirin 970 сумел обработать 2 тыс. изображений за 1 минуту.
OSDU: что нужно знать об открытых стандартах работы с данными в нефтегазе
Новое в СХД
Huawei позиционирует Kirin 970 как открытую платформу для мобильного искусственного интеллекта, открывающую возможности для разработчиков и партнеров, способных найти новые варианты использования для его вычислительных возможностей.
Ключевые компоненты мобильного процессора Kirin 970
В Huawei также заявили, что производительность встроенного в Kirin 970 сопроцессора NPU составляет 1,92 терафлопс при 16-битных вычислениях с плавающей запятой (FP16). В компании подчеркивают, что вычисления с точностью FP16 и FP8 являются важнейшим компонентом ИИ при работе нейронных сетей с десятичными числами при матричных расчетах, даже более важными для ИИ, чем 32-битные или даже 64-битные вычисления с плавающей запятой.
В состав процессора Kirin 970 входит сотовый модем последнего поколения 4.5G с поддержкой LTE Category 18, технологии агрегации 5CC, 4x4MIMO и 256QAM, что, по заявлению компании, обеспечивает скорость скачивания до 1,2 Гбит/с. Чип поддерживает одновременную работу двух SIM-карт в режиме LTE.
Kirin 970 поддерживает работу двух SIM-карт в режиме LTE
Kirin 970 оснащен двумя дополнительными модулями для ускоренной обработки изображений (ISP), обеспечивающими декодирование 4К-видео со скоростью до 60 кадров в секунду и кодирование 4K-видео со скоростью до 30 кадров в секунду с кодеками H.264 и H.265, а также с поддержкой цветового пространства HDR10.
Мобильный процессор Kirin 970 обеспечивает работу до 4 каналов оперативной памяти LPDDR4X 1866 МГц, оснащен встроенным 32-битным / 384 кГц ЦАП, сенсором Huawei i7 нового поколения и поддержкой сдвоенных камер.
Рекомендации при заказе
Huawei — это пример компании, которая в любом деле вырывается в лидеры и конкурирует с теми, кто установил свои стандарты «де-факто». Многим из нас стоило бы поучиться их упорству, с которым они расширяют своё присутствие во всех технологических областях современного IT-мира. Сегодня эта компания начинает выстраивать собственные производственные мощности чипов, чтобы не зависеть от тайваньской TSMC, что сделает её продукты ещё более независимыми от торговой политики США. В то же время, компания вкладывает в будущее поколение IT-специалистов, в собственные программные платформы, среду разработки и аппаратное обеспечение. На рынке пока что нет другой компании, которая предлагала бы подобную синергетическую платформу, поэтому я не сомневаюсь, что Huawei Mindspore станет таким же стандартом, как Tensorflow/CUDA. Да, сегодня это ещё и выгодно, делать проекты на платформе, которая даёт ценовое преимущество при заказе готового решения, но всё же перед заказом, даже если вы планируете использовать решения ИИ исключительно от Huawei, используя Mindspore или другой фреймворк, я всё же рекомендую проверить насколько хорошо конвертируется под ваши нужды код из платформ: Tensorflow и Caffe… на подходе Pytorch И другие
Михаил Дегтярёв (aka LIKE OFF)11/06.2020
Механический турок: почему ИИ основан на ручном труде и вредит экологии
На первый взгляд искусственный интеллект — это нематериальный продукт. На самом же деле — и это четвертая проблема — за успехом ИИ стоят миллионы компьютерных чернорабочих и сотни метрических тонн углекислого газа.
Чтобы обучить ИИ, его надо «накормить» данными, которые далеко не всегда можно собрать автоматически. Часто такие базы формируются с применением ручного труда. Причем чем сложнее и «утончённее» цель обучения, тем более качественная информация нужна. Откуда она берется?
Разработчики ИИ размещают заказы на сбор или обработку разных данных на краудсорсинговых платформах в сети (Amazon Mechanical Turk, Clickworkers и т.п.). Участники платформы со всего мира соглашаются или отклоняют его. К примеру, платформа Clickworker предлагают услуги 2,8 млн человек из разных стран (преимущественно Северной Америки и Европы), которые создают обучающие данные, ищут и собирают фотографии, аудио- и видеозаписи, аннотируют и атрибутируют тексты, фильтруют электронную почту и т. п.
То есть фактически часть технологии искусственного интеллекта — ручной и, к сожалению, не высокооплачиваемый труд. По данным исследовательского центра Pew, 52% «кликателей» из США зарабатывают менее 5 долл. в час, что ниже минимального размера оплаты труда в США (7,25 долл. в час), а еще 39% — от 5 до 8 долл. в час.
Искусственный интеллект затратен с точки зрения не только человеческих, но и природных ресурсов, что прямо влияет на его углеродный след. По данным исследователей из Беркли и компании Google, GPT-3 — самая мощная и продвинутая языковая модель в мире — за время обучения производит эквивалент 552 метрических тонн углекислого газа. Столько же в течение года при езде выделяют 120 легковых автомобилей с ДВС. Менее сложные системы также оставляют большой углеродный след. Продвинутый чат-бот Google Meena при чтении 340 ГБ текстов произвела 96 метрических тонн углекислого газа — столько же год выделяют 17 домовладений.
AI — это настоящий интеллект?
Многие бренды хотели бы, чтобы мы верили, что они действительно создали на столько умный процессор, который умеет самостоятельно думать и принимать решения. Давайте спустимся на землю: сегодняшние передовые эксперименты даже не приблизились к имитации работы человеческого мозга.
Конечно, AI может обыграть вас в простенькую игру, но только за счет того, что количество ходов и комбинаций в этой игре ограничено. Скажем так: искусственный интеллект хорошо работает в закрытых системах, в реальном мире он не сможет просчитать все варианты, так как их количество стремится к бесконечности.
В обычном телефоне за $500-700 искусственного интеллекта по умолчанию быть не может. Зачем же тогда производители делают ставку на это направление? Все просто: новые AI процессоры открывают более широкие возможности для машинного обучения. Это, в свою очередь, позволяет основному чипу выполнять свою работу более качественно, вот и весь трюк.
Искусственный интеллект, который подражает нашему
Подражание человеку на базе ИИ
В середине прошлого века энтузиасты считали, что для создания искусственного интеллекта необходимо создать железную копию человеческого организма.
Копия должна обладать аналогами наших органов чувств и даже рассудком — примерно эта концепция обыгрывается и в фильме Бегущий по лезвию 2049.
Этот подход до сегодняшнего дня так и остался только лишь в фильмах. До создания копий людей технологии так быстро не дошли. Думаю, это к лучшему.
Тем не менее, нам уже под силу создать технологии, которые будут выполнять не все человеческие функции, но хотя бы их часть. И делать это более качественно, чем люди.
По этому принципу работает сортировка снимков по изображенных на них людях в фотографиях, которую активно использует Apple, или классификация картинок по содержанию в Pinterest.
Существование описанных выше технологий стало возможным благодаря использованию, так называемого, машинного обучения, которое и дало толчок развития ИИ.
В машинном обучении используются алгоритмы обработки и анализа данных, после чего происходит принятие того или иного решения — совершение наиболее оптимального выбора.
С помощью машинного обучения программное обеспечение не заставляют выполнять задачу по конкретному принципу, но учиться делать это самостоятельно.
Именно с помощью него Apple добилась правильной работы портретного режима, который появился в iOS 10, и совершенствует портретное освещение из iOS 11.
Ты — то, что ты ешь: почему ИИ легко научить плохому
Искусственный интеллект «питается» данными, и его диета по определению не может быть сбалансированной.
Сбор информации — это априори отбор, то есть одни факты включаются в базу, а другие — игнорируются. Поэтому ИИ по определению мыслит индуктивно, а не дедуктивно, то есть на основе множества частных случаев он делает генеральный вывод. Иногда ошибочный.
В 2016 году 22-летний Ричард Ли хотел получить новый паспорт, заполнив форму и загрузив фото на сайте МВД Новой Зеландии. Сайт выдал ошибку: «Глаза человека на фото закрыты» и отклонил заявку Ли. Конечно, глаза его были открыты. Молодой человек имел азиатскую внешность, в т. ч. узкий разрез глаз, которую машина не смогла распознать (и это случалось в 20% подобных случаев, как потом выяснилось), потому что привыкла к облику европейского типа, который имеют большинство жителей страны.
«Диета» ИИ ещё может быть неправильной.
Базы данных для машинного обучения иногда низкокачественные или испорченные. В 2016 году Twitter запустила чатбота по имени Тэй с аватаркой и манерами 19-летней американки, чтобы тот общался с пользователями сети. Всего за сутки чатбота научили дурному — Тэй превратилась в расиста и сексиста, а также призвала построить стену на границе США и Мексики за счёт последней.
Но даже если первыми собеседниками Тэй стали бы членкоры РАН, он(а) все равно был(а) бы ограниченным персонажем, так как черпал(а) информацию и модели поведения у своих собеседников.
Как сказал бы членкор РАН, искусственный интеллект не способен делать четкие, позитивистски интерпретируемые выводы об объективной реальности. Вместо этого он создает свою реальность, которая служит основой для ограниченных выводов.
Ещё одна проблема базы данных для обучения ИИ — работа с прошлым. БД основаны на исторических данных, поэтому искусственный интеллект практически обречен на ошибки экстраполяции. Говоря проще, ИИ хороший историк, но не столь же хороший прогнозист.
Пример из практики: 2019 год, США, в медучреждениях и страховых компаниях специальный алгоритм ИИ находит пациентов с хроническими заболеваниями, которым больше других нужно особое внимание сестринского персонала. Однако выясняется, что ИИ находит чернокожих пациентов реже, чем белых
Алгоритм анализирует расходы пациентов на медобслуживание, не делая различий между черными и белыми. Но на практике расходы более больных чернокожих пациентов равняются расходам более здоровых белых пациентов. Первым приходилось больше тратиться из-за плохого здоровья (следствие низкого уровня жизни), а вторые могли больше тратиться благодаря высоким доходам. То есть чернокожим пациентам все-таки чаще требовалось внимание врачей, чем белым, но ИИ этого не понимал.
Решить проблему экстраполяции могут цифровые двойники исследуемых систем и явлений. К примеру, в 2018 году компания Toshiba создала цифрового двойника для оживленного направления Лондон — Кембридж британской железной дороги Greater Anglia. Перевозчику понадобилось новое расписание, учитывающее все пики и спады нагрузки на маршрут. Обычно для этого брали исторически данные, но в этот раз железнодорожники решили опираться на информацию от цифрового двойника. На нём железнодорожники испытывали изменения в расписании и искали способы повысить пунктуальность — и всё это так, чтобы не навредить реальным пассажирам, если принятые решения окажутся неэффективны.
Huawei Ascend 910
Конечно, с фантазией у китайских товарищей совсем беда: под именем Ascend выпускаются и смартфоны, и процессоры для смартфонов и чипы для искусственного интеллекта, причём вся линейка: от мала до велико. Нас, естественно, нас интересует сам Ascend 910 — «то, чего боится Nvidia».
Во-первых, Ascend 910 — это «чиплет», который на одной упаковке использует и вычислительные ядра и самую быструю память HBM2 Aquabolt от Samsung. Это очень важный шаг, потому что пропускная способность шины памяти — ключевой фактор в производительности систем машинного обучения. В чипе Ascend 910 она составляет 1.2 Тбайт/с. Вычислительные кристаллы содержат блоки для матричного умножения и ARM ядра, а так же блоки FP16 и INT8 для ускорения вычислений, не требующих высокой точности.
Ascend 310 |
Ascend 910 |
|
Кодовое название |
Ascend Mini |
Ascend Max |
Архитектура |
DaVinci |
DaVinci |
FP16 |
8 TeraFLOPS |
256 TeraFLOPS |
INT8 |
16 TeraOPS |
512 TeraOPS |
Число каналов видео для декодирования H.264/H.265 1080p, 30FPS |
16 |
128 |
Энергопотребление, Вт |
8 |
350 |
Техпроцесс, нм |
12 |
7 |
Вычислительная способность Ascend 910 составляет 256 TFLOPS FP16 и 512 TOPS INT8, чего достаточно для декодирования 128 потоков Full HD видео. Поскольку чиплетная структура процессора позволяет варьировать его мощность и производительность уже на этапе производства процессора, для менее ресурсоёмких задач можно использовать ту же архитектуру в более экономичной упаковке — Ascende 310.
Поскольку ИИ-системы могут масштабироваться горизонтально, для построения ИИ-инфраструктуры у Huawei есть как «кирпичики», так и крупные блоки серии Atlas.
Догнать и перегнать
Huawei Consumer Business Group анонсировала новый мобильный процессор Kirin 970 с интегрированным сопроцессором искусственного интеллекта (ИИ). Новый процессор, сообщило агентство Reuters со ссылкой на заявление Ричарда Ю (Richard Yu), генерального директора Huawei, сможет составить конкуренцию смартфонам Apple iPhone 8, анонс которых ожидается 12 сентября 2017 г., и топовым смартфонам Samsung «за счет своих интеллектуальных функций, таких как мгновенное распознавание изображений».
Напомним, в настоящее время Huawei занимает третью строчку среди крупнейших производителей смартфонов, сразу после Samsung и Apple.
В своей речи в рамках анонса чипа Kirin 970 Ричард Ю анонсировал парадигму объединения вычислительной мощи облачных сервисов с быстродействием и доступностью локальной обработки задач ИИ на устройствах.
«Когда мы пытаемся заглянуть в будущее смартфонов, мы видим приближение новой эпохи, – сказал Ричард Ю. – Мобильный искусственный интеллект – это комбинация локальных систем ИИ для устройств с облачными сервисами. Процессор Kirin 970 стал первым в серии новых технологических решений, которые принесут мощь искусственного интеллекта в наши смартфоны и обеспечат преимущество перед конкурентами».
Стенд Huawei на выставке IFA 2017
В дополнение, использование нового поколения графики в чипе Kirin 970, согласно заявлению представителей Huawei, обеспечивает ему 20% прироста производительности и на 50% большее энергосбережение нежели у его предшественника, процессора Kirin 960.
О процессоре
Huawei P smart+ стал первым смартфоном оснащенным процессором Hisilicon Kirin 710. Чип сделан по 12-нанометровому техпроцессу. Он состоит из 4 ядер Cortex A-73 с частотой 2,2 ГГц и 4 ядер Cortex-A53 с частотой 1,7 ГГц. В паре с ним используется графический ускоритель Mali-G51 MP4. Обновленная платформа получила главные функции флагманских чипов Huawei. Благодаря ей смартфон обеспечивает быструю работу и поддерживает фотографические функции с использованием искусственного интеллекта. Помогают эффективно просчитывать алгоритмы модули ISP и DSP (процессоры обработки изображений и цифровых сигналов).
Отцы и дети: зачем ИИ нужны гуманитарии и совесть
Третья проблема ИИ: такие системы неизбежно несут на себе отпечаток мышления и ценностей их создателей.
В частности, программисты ИИ обычно «технари», но не сильны в социологии, психологии, истории, юриспруденции или политологии, а между тем от ИИ ждут решения социальных задач. Так в работе ИИ появляются «слепые зоны», как в упомянутом примере с чернокожими пациентами, которых игнорировал искусственный интеллект: алгоритм не учитывал исторически сложившееся неравенство в благосостоянии белых и чернокожих американцев.
Непонимание гуманитарного контекста порождает этические проблемы.
Программисты могут их проигнорировать, а сам искусственный интеллект синдромом Оппенгеймера—Сахарова (чувство вины перед человечеством отцов соответственно атомной и водородной бомб) не страдает . Так, в 2019 году группа ученых написала письмо в издательство Wiley с просьбой удалить статью, в которой авторы рассказывали об испытаниях ИИ-системы распознавания лиц уйгуров в Китае. По данным ООН, эта этноконфессиональная группа систематически притесняется властями КНР. Алгоритмы ИИ успешно отличали лица уйгуров от корейцев и жителей Тибета. Авторы письма осудили ученых, которые работали над статьей и, собственно, алгоритмами ИИ. Возник вопрос: насколько этично пользоваться масштабными базами изображений людей, которые не давали на это своего согласия и могут быть поражены в правах. Журнал Nature провел опрос среди ученых, работающих с искусственным интеллектом, — только 47% ученых из Китая посчитали неэтичным использование изображения лиц, тогда как в США и Европе таких специалистов было более 73%.
В коммерческом секторе этические вопросы разработчиков ИИ также волнуют. В 2018 году Google на фоне протестов сотрудников отказалась сотрудничать с Пентагоном в проекте Maven. Разработчики посчитали, что их алгоритмы могут использовать для летального оружия, и потребовали от руководства отказаться от контракта с военными, что и было сделано. Спустя неделю компания опубликовала манифест с этическими установками в работе с искусственным интеллектом. Сейчас насчитывается порядка 84 подобных документов, которыми руководствуются программисты ИИ в разных корпорациях и учреждениях по всему миру. Впрочем, Пентагон позже объявил призыв на работу в свой Центр исследований ИИ среди работников Кремниевой долины и нашёл нужных специалистов.
У искусственного интеллекта нет сознания и этических установок. Заказчики ИИ — правительства и крупные корпорации, которые если и замышляют что-то нехорошее, то никому об этом не расскажут. Последним невольным защитником добра становится программист, достаточно сознательный, чтобы сказать «Нет».
Но даже говорящий «Нет» руководствуется своими этическими и культурными установками. Так, 70% соискателей на работу, связанную с ИИ в США, — белые, и только 14% — чернокожие или латиноамериканцы. В Германии студентки составляют только 20% от общего числа первокурсников на информатике. Нетрудно догадаться, что искусственный интеллект по определению становится сыном своих белых отцов из развитых стран.
Машинное обучение оказалось ключом к развитию ИИ
Режимы съемки, основанные на машинном обучении
Именно машинное обучение оказалось главным толчком к развитию того, что сегодня принято называть искусственным интеллектом — по крайней мере, сегодня считают именно так.
Когда человек только рождается, он не знает об окружающем мире ровным счетом ничего. Он не умеет просто ходить — речь в данном случае не идет даже об общении с себеподобными.
Но он активно учится и поглощает всю получаемую с самых разных сторон информацию не худе какой-нибудь губки. Впитывает, пропускает через себя и становится умнее.
Постепенно человек учится самым невероятным вещам. Он садится за руль автомобиля и не врезается в другие машины в потоке, лихо крутит педали двухколесного велосипеда и даже не падает.
За десятки лет специалисты в отрасли искусственного интеллекта пришли к выводу, что создать подобие нашего разума даже для выполнения узкой задачи невозможно.
Тем не менее, можно разработать программу, которая будет обучаться. Тогда с течением времени она будет становиться все более полезной.
Возникает еще один вопрос — проблема со скоростью обучения. Каким образом сделать так, чтобы программа становилась умнее не за годы, а за месяцы.
Ее актуальность закономерна. Человечество развивается настолько интенсивно, что даже через пару лет в какой-то технологии не будет никакого смысла — о десятках даже речи не идет.
И наиболее эффективное решение в данном случае в 2017 году становится основным конкурентным преимуществом на мировой арене — по крайней мере, в пользовательской электронике точно.
Вывод
Весьма увлекательно наблюдать за тем, как развивают и внедряют свои технологии ведущие производители. Развитие ИИ в смартфонах — интересное и многообещающее направление. А еще несколько лет назад тяжело было подумать, что умный гаджет с отличным дизайном будет настолько доступным. Ставка на дизайн сработала: яркий смартфон в сине-фиолетовом градиенте или недавно представленном белом цветах радует глаз. Пользуясь Huawei P smart +, отсутствует ощущение, что тебя кто-то обвел вокруг пальца, продав пустышку. Основной упор в устройстве сделан на возможности камер, которые, как показала практика, могут делать отличные кадры. Результатами съемки останется доволен даже человек, имеющий непосредственное отношение к фотографии.
Подведем итог: какие из перечисленных проблем ИИ принципиально не разрешимые?
-
Искусственный интеллект всегда будет конструировать, а не воспроизводить реальность. Эту черту мышления он наследует у своего создателя — человека. Сверхразум, который может объять и осмыслить реальность во всем её многообразии, — пока научная фантастика.
-
На искусственный интеллект прямо влияют предположения, взгляды и ценности, отраженные в базах данных, на которых он учится, и в алгоритмах, которые в нём заложены. Искусственный интеллект никогда не будет нейтральным и объективным.
-
Искусственный интеллект никогда не будет полностью виртуальным и автономным. Для его работы требуются материальные и людские ресурсы.
Однако другие препятствия на пути развития ИИ можно если не преодолеть полностью, то нивелировать: расширять базу обучения, бороться за прозрачность алгоритмов ИИ, расширять гуманитарную грамотность разработчиков и переводить системы ИИ на возобновляемые источники энергии.