Red Hat представила Red Hat Enterprise Linux AI (RHEL AI), базовую платформу, которая позволит более эффективно разрабатывать, тестировать и запускать генеративные модели искусственного интеллекта (ИИ) для поддержки корпоративных приложений. Фактически это специализированный дистрибутив, включающий базовые модели, инструменты для работы с ними и необходимые драйверы.

Источник изображений: Red Hat

Доступная сейчас в качестве превью для разработчиков, платформа RHEL AI включает в себя семейство больших языковых моделей (LLM) IBM Granite, недавно ставших доступными под лицензией Apache 2.0, инструментом тюнинга и доработки моделей InstructLab посредством методики LAB (Large-Scale Alignment for Chatbots), а также различные библиотеки и фреймворки.

Решение представляется в виде готового для развёртывания образа и является частью MLOps-платформы OpenShift AI. По словам Red Hat, RHEL AI предоставляет поддерживаемую, готовую к корпоративному использованию среду для работы с ИИ-моделями на аппаратных платформах AMD, Intel и NVIDIA. По словам компании, open source подход позволит устранить препятствия на пути реализации стратегии в области ИИ, такие как недостаток навыков обработки данных и финансовых возможностей.

Основная цель RHEL AI и проекта InstructLab — предоставить экспертам в предметной области возможность напрямую вносить свой вклад в большие языковые модели, используя свои знания и навыки. Новая платформа позволит им более эффективно создавать приложения с использованием ИИ, например, чат-боты. Впоследствии при наличии подписки RHEL AI компания предложит поддержку корпоративного уровня на протяжении всего жизненного цикла продукта, начиная с модели Granite 7B и ПО и заканчивая возможным возмещение ущерба в отношении интеллектуальной собственности.

«Опираясь на инфраструктуру GPU, доступную в IBM Cloud, которая используется для обучения моделей Granite и поддержки InstructLab, IBM Cloud получит поддержку RHEL AI и OpenShift AI. Эта интеграция позволит предприятиям легче внедрять генеративный ИИ в свои критически важные приложения», — отметила компания.

При этом прямо сейчас для запуска RHEL AI требуются весьма производительные сертифицированные системы с ускорителями, имеющими минимум 320 Гбайт памяти, а также хранилищем ёмкостью от 200 Гбайт. Среди протестированных указаны серверы Dell с четырьмя NVIDIA H100, Lenovo с восемью AMD Instinct MI300X, а также инстансы IBM Cloud GX3. Вскоре обещана поддержка инстансов AWS EC2 P5 с NVIDIA H100 и ускорителей Intel.

Корпорация IBM анонсировала компактный сервер POWER S1012 на платформе POWER10, предназначенный для решения ИИ-задач на периферии. Новинка будет предлагаться в двух вариантах исполнения — в корпусе башенного типа и в виде системы формата 2U половинной ширины, что позволит размещать в стандартной стойке два устройства бок о бок.

Решение оснащается модулем POWER10 eSCM с одним, четырьмя или восемью ядрами (3,0–3,9 ГГц) и 256 Гбайт памяти. Каждое ядро способно выполнять до восьми потоков инструкций одновременно (SMT8), благодаря чему максимальная конфигурация обеспечивает до 64 потоков. Заявленная пропускная способность памяти — до 102 Гбайт/с.

Источник изображений: IBM

Конфигурация POWER S1012 (Bonnell) может включать два слота PCIe 5.0 x8 или один слот PCIe 4.0 x16, а также дополнительный разъём PCIe 5.0 x8. Допускается установка четырёх накопителей NVMe U.2.

По заявлениям IBM, в плане производительности новинка втрое превосходит сервер POWER S814, поддержка которого закончится буквально на днях. Модификация в формате 2U половинной ширины позволяет сократить пространство для оборудования до 75 % по сравнению со стоечным сервером POWER S1014 (4U). Применение POWER S1012 на периферии даёт возможность выполнять определённые ИИ-задачи непосредственно в точке получения данных, что снижает задержки и уменьшает нагрузку на сетевые каналы.

Сервер POWER S1012 станет доступен у IBM и сертифицированных бизнес-партнёров 14 июня 2024 года. Клиенты смогут выбрать оптимальный для себя период поддержки в диапазоне от трёх до пяти лет. Кроме того, в зависимости от потребностей будут доступны дополнительные варианты обслуживания.

Корпорация IBM сообщила о том, что её квантовая платформа Quantum System Two будет интегрирована с суперкомпьютером Fugaku в рамках совместного проекта с японским Институтом физико-химических исследований (RIKEN). Кроме того, IBM будет работать над новым ПО для выполнения квантово-классических задач.

Напомним, вычислительный комплекс Fugaku на базе Arm-процессоров Fujitsu A64FX в 2020 году стал самым высокопроизводительным суперкомпьютером в мире. В текущем рейтинге ТОР500 эта НРС-система занимает четвёртое место с быстродействием приблизительно 442 Пфлопс.

В свою очередь, квантовый компьютер IBM Quantum System Two был представлен в конце 2023 года. В нём применяется 133-кубитный квантовый процессор Heron. Отмечается, что Quantum System Two будет единственной квантовой системой, размещённой рядом с Fugaku в Центре вычислительных наук RIKEN в Кобе (Япония). Такая связка поможет в разработке приложений нового поколения для квантово-ориентированных суперкомпьютеров.

Источник изображения: IBM

Совместная инициатива IBM и RIKEN стала частью проекта, поддерживаемого японской Организацией по развитию новых энергетических и промышленных технологий (NEDO). Целью программы является демонстрация преимуществ гибридных вычислительных платформ при выполнении сложных и ресурсоёмких задач в эпоху «после 5G».

«С точки зрения HPC, квантовые компьютеры — это системы, которые позволяют ускорить научные приложения, обычно выполняемые на суперкомпьютерах. Кроме того, квантовые платформы дают возможность решать задачи, которые не по силам традиционным вычислительным комплексам», — отмечает доктор Мицухиса Сато (Mitsuhisa Sato), руководитель подразделения RIKEN Quantum HPC Collaborative Platform. При этом Fujitsu совместно с RIKEN уже развернули в Осакском университете (Osaka University) собственный 64-кубитный квантовый компьютер с облачным доступом.

На этой неделе, как сообщает ресурс The Stack, прошло первое заседание в Высоком суде Великобритании по иску IBM UK, обвинившей швейцарскую фирму LzLabs в использовании своей британской «дочки» Winsopia для покупки ПО IBM для мейнфреймов с целью реверс-инжиниринга и разработки платформы Software Defined Mainframe (SDM).

По словам IBM, платформа SDM, являющаяся по сути эмулятором, позволяет клиентам использовать приложения для мейнфреймов IBM на x86-серверах под управлением Linux, в том числе облачных, без необходимости изменения исходного кода или пересборки. В иске IBM утверждается, что LzLabs нарушила условия лицензионного соглашения, которым запрещается обратная разработка программных продуктов. Иск был подан в Высокий суд ещё в сентябре 2021 года и получил впоследствии целый ряд правок. IBM требует возместить убытки, признать незаконными методы разработки SDM и запретить продажу SDM.

Источник изображения: qimono/Pixabay

Платформа SDM была представлена LzLabs в 2016 году. Компания поставила платформу таким клиентам, как Rogers Communications, MAN Truck & Bus и Swisscom. LzLabs заявляет, что SDM разработана в соответствии с законами Европы и Великобритании, которые способствуют инновациям и конкуренции в технологических отраслях. По словам LzLabs, платформа была создана после многих лет наблюдения, изучения и тестирования основных принципов взаимодействия клиентских приложений с мейнфреймом IBM. В связи с этим LzLabs обвинила IBM в попытке задушить конкуренцию, отметив, что Winsopia не нарушала условий лицензирования.

В ответ IBM заявила, что дело не имеет ничего общего с ограничением конкуренции. «Проблема заключается в незаконном использовании технологий, требующем инвестиций в миллиарды долларов, и IBM UK будет решительно защищать себя от действий Winsopia и LzLabs», — указано в сообщении корпорации. Аналогичный иск против LzLabs и её «дочки» Texas Wormhole был подан IBM в суд Западного округа Техаса в марте 2022 года. Как ожидается, рассмотрение иска начнётся в конце этого или начале следующего года.

Противостояние между IBM и разработчиками LzLabs длится уже порядка 15 лет. Так, в 2009 году компания Neon Enterprise Software, которая создала комплекс ПО zPrime, имевший схожую c SDM функциональность, сама подала иск к IBM, но в результате ответного иска от IBM была вынуждена закрыться. IBM не без оснований считает, что за LzLabs стоят те же люди, что работали в Neon. В 2022 году IBM также подала иск против Micro Focus, утверждая, что та скопировала и провела реверс-инжиниринг сервисов CICS для разработки конкурирующего продукта — Micro Focus Enterprise Server.

Корпорация IBM выиграла апелляцию на решение суда Южного округа Техаса, принятого в 2022 году, о компенсации в размере $1,6 млрд, которую она должна была выплатить BMC Software Inc. за неправомерную замену её ПО собственным софтом на мейнфреймах их общего клиента AT&T Inc., пишет The Register.

На этой неделе Пятый окружной апелляционный суд США в Новом Орлеане назвал решение суда низшей инстанции относительно ответственности IBM ошибочным. От имени коллегии из трёх судей судья Эдит Джонс (Edith Jones) заявила, что AT&T, один из крупнейших клиентов BMC, перешла на ПО IBM «самостоятельно» и что BMC «проиграла IBM по справедливости».

Источник изображения: Pixabay

В 2022 году судья Южного округа Техаса постановил, что IBM нарушила соглашение об аутсорсинге между ней, BMC и AT&T, вынудив телекоммуникационную компанию купить ПО IBM для замены кода BMC на мейнфреймах AT&T. Судья тогда заявил, что поведение IBM представляет собой один из множества примеров того, как она избегает соблюдения бизнес-правил и ведёт себя так, что «оскорбляет чувство справедливости и приличия, которых общественность ожидает от американского бизнеса».

По мнению Эдит Джонс, всё это не имеет большого значения, если формулировки контракта прямо не запрещают ничего из того, что сделала IBM. Судья отметила, что соглашение позволяло IBM использовать и получать доступ к ПО BMC на мейнфреймах для обслуживания клиентов. Хотя соглашение прямо не позволяло IBM замещать какое-либо существующее клиентское ПО своими собственными продуктами, оно позволяло ей «прекратить использование клиентских лицензий BMC по другим уважительным деловым причинам».

IBM в апелляции указала на то, что запрос AT&T о замене ПО BMC на софт IBM подпадает под понятие «других уважительных деловых причин», и апелляционный суд согласился с этим аргументом. «AT&T инициировала этот переход самостоятельно, без какого-либо лоббирования или влияния IBM, — написала Джонс. — Следовательно, IBM утверждает, что она не нарушила положение о незамещении, поскольку не конкурировала и не добивалась решения AT&T».

IBM объявила финансовые результаты I квартала 2024 года. После того, как компания сообщила о выручке, оказавшейся ниже прогноза аналитиков, а также о покупке поставщика ПО HashiCorp, её акции упали на 9 %. Выручка компании составила $14,46 млрд, что на 1,5 % больше показателя аналогичного периода прошлого года, но меньше прогноза аналитика в размере $14,55 млрд. Уже третий раз за последние пять кварталов выручка IBM оказывается ниже прогнозов Уолл-стрит.

Выручка подразделения по разработке ПО выросла год к году на 5 % до $5,90 млрд, что ниже консенсус-прогноза аналитиков, опрошенных StreetAccount, в размере $5,96 млрд. При этом выручка Red Hat выросла за квартал на 9 %, рост выручки подразделения по автоматизации составил 13 %, подразделения по обработке данных и ИИ — 1 %.

Источник изображения: Carson Masterson/unsplash.com

Консалтинговые услуги обеспечили компании выручку в размере $5,19 млрд, сократившись год к году на 0,2 % и оказавшись немного ниже консенсус-прогноза StreetAccount в $5,20 млрд. Выручка инфраструктурного подразделения компании упала на 0,7 % до $3,08 млрд, но оказалась выше консенсус-прогноза StreetAccount в $2,94 млрд. При этом продажи Z Systems увеличились на 9 %, доход от гибридной и распределённой инфраструктур вырос на 5 и 6 % соответственно. В то же время выручка от сервиса поддержки инфраструктуры упал на 8 %.

Скорректированная прибыль на акцию (non-GAAP) составила $1,68, в то время как аналитики прогнозировали этот показатель в размере $1,60. Как сообщает IBM, в течение квартала она предоставила клиентам 160 тыс. консультаций с использованием ИИ-ассистента для повышения производительности, а также завершила продажу The Weather Company компании Francisco Partners.

Источник: IBM

IBM также поделилась прогнозом по выручке на 2024 год, которая должна вырасти на 4–6 %. Свободный денежный поток, как ожидается, составит около $12 млрд. Несмотря на падение после объявления результатов I квартала, акции IBM в этом году выросли примерно на 13 %, опередив индекс S&P 500, который за тот же период увеличился на 6 %.

Добавим, что, комментируя в интервью ресурсу Computer Weekly продажу HashiCorp компании IBM, Армон Дадгар (Armon Dadgar), соучредитель и технический директор HashiCorp, заявил, что в основе стратегии его компании лежит предоставление компаниям возможности внедрять инновации в облаке, обеспечивая при этом последовательный подход к управлению облаком в любом масштабе. «Потребность в эффективном управлении и автоматизации имеет решающее значение с развитием мультиоблачных и гибридных облаков, которое ускоряется сегодняшней революцией ИИ», — подчеркнул он.

По большей части современные нейросетевые технологии используют ускорители на базе GPU или родственных архитектур как для обучения, так и для инференса. Впрочем, разработчики альтернативных решений не дремлют. В число последних входит компания IBM, недавно сообщившая об успешном завершении испытаний нового нейроморфного процессора NorthPole.

Разработкой чипов, в том или ином виде пытающихся имитировать работу живого мозга, компания занимается давно — чипы IBM TrueNorth второго поколения увидели свет более пяти лет назад. Уже тогда разработчики отошли от традиционных архитектур, отказавшись от понятия памяти как внешнего устройства.

Источник изображений здесь и далее: IBM Research

В итоге TrueNorth получил 400 Мбит (~50 Мбайт) сверхбыстрой интегрированной памяти SRAM (~100 Кбайт на ядро, всего 4096 ядер) и мог эмулировать 1 млн нейронов с 256 млн межнейронных связей. Чип моделировал бинарные нейроны, а вес каждого синапса был закодирован двумя битами.

FPGA (слева) используется только в качестве PCIe-моста

Новый 12-нм нейрочип NorthPole устроен несколько иначе: он состоит из 256 ядер, которые, впрочем, всё так же используют внутреннюю память общим объёмом 192 Мбайт. Дополнительно имеется буфер объёмом 32 Мбайт для IO-тензоров. Каждое из ядер NorthPole за такт способно выполнять 2048 операций с 8-бит точностью вычислений. В режимах 4- и 2-бит точности производительность растёт соответствующим образом. По словам IBM, новый NPU превосходит предшественника в 4000 раз и на частоте 400 МГц мог бы развивать производительность в районе 840 Топс.

Из-за довольно ограниченного объёма памяти NorthPole не подходит для запуска сложных нейросетей вроде GPT-4, но его главное назначение не в этом — чип позиционируется в качестве основы систем машинного зрения, в том числе в системах автопилотов, хирургических роботов и т.п. И в этом качестве новинка, состоящая из 22 млрд транзисторов и имеющая площадь кристалла 800 мм², проявляет себя очень хорошо.

Результаты тестов на эффективность архитектуры NorthPole

Так, в тестах ResNet-50 NorthPole в 25 раз превзошёл по энергоэффективности сопоставимые по техпроцессу GPU, а показатели латентности при этом оказались в 22 раза лучше. В пересчёте на транзисторную сложность IBM говорит о превосходстве даже над новейшими 4-нм решениями NVIDIA. Полные результаты тестирования доступны на science.org.

К сожалению, речь всё ещё идёт об экспериментальном прототипе с довольно грубым по современным меркам 12-нм техпроцессом. По словам исследователей, производительность NorthPole благодаря более совершенным техпроцессам удалось поднять бы ещё в 25 раз. Параллельно IBM ведёт разработки в области ИИ-чипов с элементами аналоговой логики. Достигнутые в рамках 14-нм техпроцесса результаты позволяют говорить об удельной производительности в районе 10,5 Топс/Вт или 1,59 Топс/мм².

Корпорация IBM анонсировала ленточный привод TS1170, предназначенный для применения в системах архивирования данных большой ёмкости. Решение обеспечивает высокий уровень безопасности благодаря возможности использования «воздушного зазора» (air gap) и шифрования AES-256.

Задействованы картриджи JF вместимостью 50 Тбайт. С учётом компрессии 3:1 такие носители способны хранить до 150 Тбайт информации. Для сравнения: ленточные картриджи LTO-9 имеют «чистую» ёмкость в 18 Тбайт и эффективную ёмкость в 45 Тбайт со сжатием данных.

Источник изображения: IBM

Поверхность ленты в картриджах JF покрыта частицами феррита стронция, что позволило повысить плотность хранения информации. Ранее IBM и Fujifilm демонстрировали ленточный накопитель вместимостью 580 Тбайт, выполненный по указанной технологии. Таким образом, в перспективе на коммерческом рынке появятся гораздо более ёмкие картриджи.

Привод TS1170 поддерживает интерфейсы SAS-3 и FC16. Заявленная скорость передачи данных достигает 400 Мбайт/с. Габариты составляют 93 × 186 × 467 мм, вес — 5,57 кг. Диапазон рабочих температур — от +16 до +25 °C.

Около года назад участники консорциума LTO — компании HPE, IBM и Quantum — обнародовали план развития стандарта ленточных накопителей LTO Ultrium. С появлением LTO-10 ёмкость картриджа вырастет до 36 Тбайт, а объём хранимых в сжатом виде данных — до 90 Тбайт. Картриджи 14-го поколения обеспечат объём до 576 Тбайт и 1,44 Пбайт соответственно.

Корпорация IBM, как сообщает ресурс Network World, опровергла предположения о том, что разработка операционной системы AIX отошла на второй план. Компания заявляет, что по-прежнему привержена данному проекту, а развитие платформы и внедрение в неё новых функций рассчитано как минимум до 2030 года.

В начале 2023 года стало известно, что IBM полностью передала разработку Unix-платформы AIX своему индийскому подразделению. Тогда говорилось, что разработчикам AIX в США было предложено подыскать другую работу в компании, но некоторые оказались в «подвешенном состоянии». Высказывались предположения, что данная мера нацелена на то, чтобы избавиться от пожилых сотрудников. Кроме того, появились слухи, что проект AIX теряет приоритет.

Источник изображения: IBM

IBM теперь заявляет, что разработка AIX уже велась в Индии, тогда как специалисты в США работали над платформой POWER, на которой функционирует AIX. Отмечается, что компания решила сосредоточить дальнейшее развитие AIX в Индии по многим причинам, а не исключительно из соображений экономии средств. В компании говорят, что осенью 2023 года будет выпущено очередное обновление AIX 7.3. Компания намерена и дальше придерживаться цикла ежегодного обновления платформы.

«Мы продолжим совершенствовать систему. Ни одно из действий по оптимизации ресурсов, которые мы предприняли, не повлияло на наш план развития ОС или кого-либо из сотрудников, которые вовлечены в проект», — отмечают в корпорации. Более того, по словам IBM, которой теперь принадлежит Red Hat, бывают даже случаи переноса рабочих нагрузок с Linux на AIX. Сейчас AIX является фактически единственным активно развивающимся наследником UNIX System V Release 4.

IBM полностью передала разработку платформы AIX своему индийскому офису. Об этом сообщил ресурс The Register. До этой передачи, которая, по данным The Register, произошла в III квартале 2022 года, разработка AIX, согласно его источнику, была равномерно распределена между специалистами IBM в США и Индии. С наступлением 2023 года все работы были перемещены в Индию.

Согласно данным The Register, пострадало порядка 80 разработчиков AIX в США, которым было предложено подыскать другую работу в компании, выделив на решение вопроса неограниченное время. Сообщается, что большая часть программистов перешла на другие должности в IBM, хотя некоторые оказались в «подвешенном состоянии». По словам собеседника The Register, это в основном пожилые сотрудники, имеющие право на получение пенсии.

Изображения: IBM

«Среди моих коллег общее мнение состоит в том, что перераспределение используется для того, чтобы вытолкнуть пожилых сотрудников из компании и сделать это таким образом, чтобы избежать проверки, которая проводится при увольнениях», — говорит источник. При увольнении работника обычно выплачивается выходное пособие, что отражается в отчётности. Перераспределение (направление работников на поиск другой должности внутри компании, возможно, с переездом) позволяет избежать этих затрат и заполнения лишних бумаг. Кроме того, это может побудить работника уволиться по собственному желанию.

Известно, что против IBM было подано множество исков с обвинением компании в дискриминации пожилых сотрудников и неправомерном их увольнении. IBM намеренно усложнила проверку таких обвинений, перестав в 2014 году раскрывать возрастные демографические данные об уволенных сотрудниках. Имея доступ к таким данным было бы проще оценить средний возраст тех, кого подвергают перераспределению.

В феврале 2022 года директор по персоналу IBM директор по работе с персоналом IBM Никль Ламоро (Nickle LaMoreaux) выступила с опровержением «ложных утверждений о возрастной дискриминации в компании». В последнее время многие из исков против IBM были урегулированы компанией на условиях конфиденциальности, нередко без признания своей вины и без возможности формирования коллективных исков.