В Кремниевой долине 9-10 марта прошел GPT Party 3.0 — самый масштабный русскоязычный нетворкинг-ивент, посвященный искусственному интеллекту. Более 450 человек собрались в Plug and Play, чтобы встретиться с ведущими экспертами, предпринимателями и инвесторами, обсудить последние тенденции в области искусственного интеллекта и получить практические знания.
На GPT Party Дмитрий Трифонов, сооснователь и генеральный директор FiarCompute по созданию вычислительный платформ искусственного интеллекта без привязки к поставщикам, выступил на тему «AI compute platforms». Дмитрий рассказал, зачем нужны вычислительные платформы для AI, почему сейчас большой спрос на эти вычислительные платформы и как компании решают эту проблему.
Дмитрий Трифонов
Основатель FairCompute
Я специализируюсь на разработке ИИ, поэтому расскажу о том, как разрабатывать и масштабировать ИИ для большого числа пользователей. Я уже много лет программист или руководитель программистов, последние десять лет занимался компьютерным зрением и инфраструктурой моделей ИИ в различных компаниях. В этой презентации я попытаюсь ответить на три вопроса: зачем нам нужны вычислительные платформы для ИИ, почему спрос на эти платформы так велик и как компании решают эту проблему.
Первое, что стоит отметить: мы привыкли ассоциировать искусственный интеллект с умными людьми, изобретающими алгоритмы. Но на самом деле, большинство прорывов в области ИИ было достигнуто благодаря масштабированию вычислительных мощностей. Второй важный момент: реализация ИИ-решений в продакшн оказывается чрезвычайно трудоемкой. Требуется огромное количество работы для оптимизации и адаптации этих решений для пользователей.
Рассмотрим некоторые исторические примеры. Все началось, когда Алекс Крыжевский популяризировал deep learning. Они взяли существующую модель, известную еще с 90-х, и обучили ее на огромном массиве данных, что существенно улучшило результаты по сравнению с тем, что было доступно до этого. Это положило начало ренессансу deep learning. Позже с появлением моделей типа ChatGPT, было задействовано еще больше данных и вычислительных мощностей, благодаря чему Microsoft построил суперкомпьютеры. Они использовали довольно стандартные на тот момент модели, но обучение на огромных массивах данных и инвестиции в миллионы долларов значительно улучшили результаты. Современные модели требуют еще больше вычислений и данных для дальнейшего улучшения.
Второй момент заключается в том, что искусственный интеллект уже давно стал частью нашей жизни. Все мы знаем о хайпе вокруг ChatGPT или Sora. Однако еще с 2017 года в продуктах Apple используются технологии компьютерного зрения и обработки текста на основе машинного обучения. В 2017 году я присоединился к команде, которая работала над Animoji. Это была одна из немногих команд, активно использующих машинное обучение, и многие считали, что запуск таких моделей на телефоне — безумие. Для нашей команды это было большим вызовом, и многие не верили в возможность реализации наших идей, однако это сработало.
Большинство функций на базе ИИ в продуктах Apple, почти незаметны. Они создают естественный и улучшенный пользовательский опыт: фотографии становятся лучше, связь во время звонков и видеочатов — четче, а фон на изображениях — размыт. Однако настоящая проблема возникла с Apple Vision Pro, где количество вычислений и функций, требующих ИИ, увеличилось в десять раз. Мы даже не верили, что сможем запустить такую систему, поскольку она постоянно сканирует окружение, отслеживает движение глаз, лиц, жестов и людей. В Apple Watch также используется ИИ— всё это стало возможным благодаря специализированному оборудованию, которое разработала компания: более мощные процессоры, оптимизированные под задачи ИИ.
Ответ на вопрос о том, почему спрос на вычислительные мощности растет, можно разделить на две основные причины. Первая — все больше индустрий начинают применять искусственный интеллект, что автоматически увеличивает спрос на вычислительные мощности. Вторая причина заключается в том, что сложность самих моделей ИИ растет очень быстро, значительно опережая рост доступных на планете вычислительных мощностей.
Приведу пример из статьи: начиная с 2010 года, в период расцвета глубокого обучения, скорость, с которой требования к вычислительным мощностям удваиваются, составляет примерно каждые пять-семь месяцев, в то время как удвоение доступных вычислительных мощностей происходит примерно каждые 24 месяца. Сложность вычислений растет из-за изменения архитектуры и введения новых, более сложных методов. Например, вместо однократного просмотра изображения, нейросеть анализирует его примерно 50 раз. Это значительно увеличивает вычислительные затраты. Также есть переход к трансформерам и диффузионным моделям, где результат формируется постепенно, что также требует многократных итераций. В будущем с ростом использования 3D-данных, аудио и видео, требования к вычислительным мощностям будут только увеличиваться.
Что обычно делают компании в ответ на растущий спрос на вычислительные мощности? Существует два основных направления. Первое — это разработка специализированных чипов, как это делают Apple, Google и теперь Amazon. Множество стартапов, таких как Groq и SambaNova, также привлекли внимание своими инновациями в этой области. Второй путь — это приобретение большого количества видеокарт. Например, Марк Цукерберг скупил множество видеокарт Nvidia. Microsoft разработала вычислительные платформы для OpenAI.
С точки зрения эффективности, исторически железо общего назначения, как у Microsoft и Nvidia, работает лучше, так как позволяет запускать разнообразные задачи. Это железо не так эффективно, как специализированное, но оно адаптивнее из-за постоянно изменяющихся архитектур, что делает специализированные чипы устаревшими. Например, Apple постоянно обновляет свое железо, выпуская новые чипы каждые два года и адаптируясь к изменениям в технологиях, от конвенциональных нейросетей до трансформеров и крупных языковых моделей (LLM).
Программное обеспечение также играет ключевую роль. Несмотря на отличное железо компании AMD, им до сих пор не удалось полностью реализовать его потенциал из-за ограничений в ПО. Все может измениться с появлением новых устройств, таких как Apple Vision Pro и других подобных, которые требуют специализированного железа для работы непосредственно с пользователем, а не в больших данных центрах. Такие изменения потребуют еще большего количества специализированного оборудования.
Для больших компаний вложение миллиарда долларов в разработку нового железа — это возможно, но что делать маленьким компаниям? Стоимость вычислений становится критичной, особенно при создании масштабируемого продукта. Если вычислительные затраты низкие, можно предложить решение бесплатно. Если они высоки, приходится переходить на подписки, и это напрямую влияет на конкурентоспособность компании, особенно если речь идет о массовом ИИ-продукте.
Сейчас крупные компании скупают видеокарты и строят огромные дата-центры. Они контролируют значительные вычислительные мощности, которые сложно использовать эффективно из-за колебаний спроса и предложения, что порой приводит к избыточным мощностям. Моя идея заключается в том, чтобы перепродавать неиспользуемые вычислительные ресурсы малым компаниям, тем самым уменьшая их затраты и одновременно оптимизируя затраты для крупных игроков.
