gpt party 2.0. Николай Давыдов об инвестициях в aI
В Кремниевой долине 7-8 октября прошло GPT Party 2.0 — самый масштабный русскоязычный нетворкинг-ивент, посвященный искусственному интеллекту. Более 300 человек собрались в Plug and Play, чтобы встретиться с ведущими экспертами, предпринимателями и инвесторами, обсудить последние тенденции в области искусственного интеллекта и получить практические знания.
Во время выступления Ник Давыдов рассказал про влияние экономики на сферу искусственного интеллекта, показал устройство artificial intelligence и Chat GPT и поделился, как грамотно инвестировать в AI.
Во время выступления Ник Давыдов рассказал про влияние экономики на сферу искусственного интеллекта, показал устройство artificial intelligence и Chat GPT и поделился, как грамотно инвестировать в AI.
"Моя работа заключается в том, чтобы находить новые интересные стартапы. Мы посвящаем этому все время, но мне кажется, что мы все равно многое пропускаем. Тектонический сдвиг настолько большой, что за всем уследить невозможно. Я для себя понял, что мне нужно выучить способ мышления, который позволит быстрее ловить тренды в тот момент, когда они становятся заметными, а не пытаться покрыть все. В "Алисе в Стране чудес" была фраза "running twice as fast", и это на самом деле то, что сейчас происходит в сфере AI."
почему сейчас самое время делать стартапы?
"В начале немного про экономику. Во время пандемии напечатали много денег, началась инфляция, люди увольнялись и стали менять свои места работы, был очень большой долг по кредитным картам. При этом у бизнесов долгов было немного, у них другая проблема - они не могут продавать и нанимать людей. И мы находимся в удивительная ситуация, когда shortage of laber (нехватка рабочей силы) не там, где ИИ может нам с этим помочь. В основном это ручная работа: не хватает официантов, строителей, медсестер, нянечек, учителей.
Что в этой ситуации делают бизнесы? Они выживают. Поэтому ситуация очень хорошая для стартапов, потому что они вынуждены заниматься выживанием все время. А вот бизнесы покрупнее в момент такой неопределенности начинают думать, как им сохранить жизнеспособность. И они начинают смотреть в сторону стартапов, у них что-то покупать. Поэтому если вы делать стартап, вы находитесь в хорошем месте в хорошее время."
"В начале немного про экономику. Во время пандемии напечатали много денег, началась инфляция, люди увольнялись и стали менять свои места работы, был очень большой долг по кредитным картам. При этом у бизнесов долгов было немного, у них другая проблема - они не могут продавать и нанимать людей. И мы находимся в удивительная ситуация, когда shortage of laber (нехватка рабочей силы) не там, где ИИ может нам с этим помочь. В основном это ручная работа: не хватает официантов, строителей, медсестер, нянечек, учителей.
Что в этой ситуации делают бизнесы? Они выживают. Поэтому ситуация очень хорошая для стартапов, потому что они вынуждены заниматься выживанием все время. А вот бизнесы покрупнее в момент такой неопределенности начинают думать, как им сохранить жизнеспособность. И они начинают смотреть в сторону стартапов, у них что-то покупать. Поэтому если вы делать стартап, вы находитесь в хорошем месте в хорошее время."
скорость изменений в сфере AI
"Если вы смотрите на что-то и пытаюсь понять, это AI или machine learning, то есть простой фремворк: если это написано на Python, то это machine learning, если это написано на PowerPoint, то это AI.
За последние годы поменялась скорость изменений. Почему? Давайте посмотрим на изображение ниже."
"Если вы смотрите на что-то и пытаюсь понять, это AI или machine learning, то есть простой фремворк: если это написано на Python, то это machine learning, если это написано на PowerPoint, то это AI.
За последние годы поменялась скорость изменений. Почему? Давайте посмотрим на изображение ниже."
"В 1960-е люди собрали первый Perceptron, который работал на одно из первых компьютеров. Тогда AI делали мелом на доске. С тех пор прошло очень много лет, но особо ничего не менялось. Все начало сильно меняться в тот момент, когда появился более дешевый компьютер. Как только все перешло на видеокарты, увеличилась скорость роста компьютера. Был закон Мура: раз в два года в два раза увеличивается вычислительная способность всех компьютеров. Сейчас он перестал работать, и скорость удваивается раз в 3,5 месяца. Мы начинаем входить в экспоненциальную эпоху компьютер, через 10 лет у нас будут нейрокомпьютеры, и это будет совсем другой мир. Давайте попробуем в нем не потеряться. Сейчас наступили время, когда компьютеры научились стабильно, лучше средних людей, понимать текст, языки, прочитанный материал, изображения, речь и рукописный текст."
Что такое AI И КАК ЭТО РАБОТАЕТ?
"Давайте поговорим, как работают нейронные сети. Наш мозг состоит из огромного количества нейронных сетей, и мы сами не знаем, как он устроен. При этом мы можем понять, как утроен нейрон: есть клетка, в которой есть много входов и один выход, и в ней происходит химическая реакция. Математики сделали математическую модель, где нейрон - это функция, в которой есть переменные на вход. Так можно сделать нейронные сети, эквивалентные мозгу."
"Давайте поговорим, как работают нейронные сети. Наш мозг состоит из огромного количества нейронных сетей, и мы сами не знаем, как он устроен. При этом мы можем понять, как утроен нейрон: есть клетка, в которой есть много входов и один выход, и в ней происходит химическая реакция. Математики сделали математическую модель, где нейрон - это функция, в которой есть переменные на вход. Так можно сделать нейронные сети, эквивалентные мозгу."
"Как из этого теперь сделать AI? Простейших моделей, которую можно посмотреть, называется MNIST, это распознавание рукописных символов. Например, она распознает девятки. Что такое девятка? Это поле 28 на 28 пикселей, которые отвечают за черный, белый или градации серого. Таким образом мы можем девятку превратить в первый слой нейронов, потом мы ставим еще несколько слоев нейронов, связанных между собой. Последние 10 нейронов отвечают за номера от 1 до 9. При их активации показывается, что с вероятностью 96% это девятка, поэтому она засветилась. Первые нейрон - это цвет пикселя, последний нейрон дает ответ, что за цифра? А что делают нейроны посередине? И на самом деле люди не знают, что там, и не понимают, как машина приходит к выводам. Мы можем догадываться в случае MNIST, что промежуточные нейроны учатся распознавать паттерны: часть находят колечки, другие палочки. Далее делается перебор, чтобы они сошлись. А дальше надо делать несколько раз, чтобы в какой-то момент в обученных сетях устаканились коэффициенты, которые стабильно дают хороший выход, с которым можно работать.
Видите, очень сложно и скучно рассказал про то, как можно распознавать рукописный текст. Все остальные модели намного сложнее, в генеративной модели много моделей в одной."
Видите, очень сложно и скучно рассказал про то, как можно распознавать рукописный текст. Все остальные модели намного сложнее, в генеративной модели много моделей в одной."
Как работает Chat GPT?
"Давайте поговорим, как работает Chat GPT. Это большая языковая модель, которая обучена на огромном количестве данных и у которой есть огромное количество внутренних параметров. Чтобы научить модель разговаривать и понимать текст, нужно создать эмбеддинги. Все слова можно расположить по значению по смыслу рядом или далеко друг от друга. Это пространство не двухмерное, а n-мерное, в котором есть много разных измерений. Слова представляются как векторы в этом пространстве, и далее модель обучают, как эти они по отношению друг к другу располагаются.
Все большие языковые модели работают так, что они предсказывают максимально вероятное следующее слово в предложении. Если я вам скажу "В лесу родилась...". О'кей, ваша LLM работает с вероятностью 90%, потому что в вашем мозге был "елочка", а с вероятностью 30% вы еще продолжите "в лесу она росла". А дальше есть вероятность следующего токена, в английском языке почти всегда слово, а в русском языке - это почти всегда пара букв. Мы пришли к тому, что у нас есть сеть, которая умеет предсказывать следующее слово в предложении. Когда мы задаем свой вопрос, он используется, чтобы внутри сети вызвать правильные эмбеддинги. Так сеть вспоминает нужную область знаний."
"Давайте поговорим, как работает Chat GPT. Это большая языковая модель, которая обучена на огромном количестве данных и у которой есть огромное количество внутренних параметров. Чтобы научить модель разговаривать и понимать текст, нужно создать эмбеддинги. Все слова можно расположить по значению по смыслу рядом или далеко друг от друга. Это пространство не двухмерное, а n-мерное, в котором есть много разных измерений. Слова представляются как векторы в этом пространстве, и далее модель обучают, как эти они по отношению друг к другу располагаются.
Все большие языковые модели работают так, что они предсказывают максимально вероятное следующее слово в предложении. Если я вам скажу "В лесу родилась...". О'кей, ваша LLM работает с вероятностью 90%, потому что в вашем мозге был "елочка", а с вероятностью 30% вы еще продолжите "в лесу она росла". А дальше есть вероятность следующего токена, в английском языке почти всегда слово, а в русском языке - это почти всегда пара букв. Мы пришли к тому, что у нас есть сеть, которая умеет предсказывать следующее слово в предложении. Когда мы задаем свой вопрос, он используется, чтобы внутри сети вызвать правильные эмбеддинги. Так сеть вспоминает нужную область знаний."
"Chat GPT4 состоит из нескольких моделей, которая называется микс экспертов, где одна модель хороша в ответе на вопросы по менеджменту, другая - по литературе и так далее. При миксе экспертов вызываются воспоминания не только о конкретной информации, но и определяется область знаний. Можно провести интересный эксперимент: попросить Chat GPT написать историю, которая начинается и заканчивается одним словом. Для него это очень сложная задача, и в половине случаев он не справится. Когда он начинает писать, то не знает, как он закончит. В этом состоит отличие искусственного интеллекта от человеческого, человек понимают конечную цель своей работы."
КТО ТАКИЕ DIGITAL WORKERS?
"Дэвид Ян придумал классное слово "диджитал воркерс" - это не органические сотрудники. Если воткнуть Chat GPT4 в Chat GPT4, то они смогут друг с другом разговаривать, и иногда этот диалог приводит к очень интересным вещам. Особенного если дать им разные системные указания. Например, один будет проджект-менеджер, который не выполняет то, что говорят ему юзеры, а составляет план, как это сделать. Другим инстанциям мы даем промт, что они работники и выполняют определенные задачи. Еще создаем нейросетку, которая занимается рефлексией, то есть смотрит на выполненную задачу и анализирует, как в следующий раз сделать лучше. Эта команда виртуальных сотрудников, которая строится на внутреннем диалоге искусственного интеллекта, нужна для работы над более сложными задачами, чем написать стихотворение. И он может выполнять задачи сотрудников или помогать им что-то делать, то есть может быть копайлотом, агентом или просто тулзой."
"Дэвид Ян придумал классное слово "диджитал воркерс" - это не органические сотрудники. Если воткнуть Chat GPT4 в Chat GPT4, то они смогут друг с другом разговаривать, и иногда этот диалог приводит к очень интересным вещам. Особенного если дать им разные системные указания. Например, один будет проджект-менеджер, который не выполняет то, что говорят ему юзеры, а составляет план, как это сделать. Другим инстанциям мы даем промт, что они работники и выполняют определенные задачи. Еще создаем нейросетку, которая занимается рефлексией, то есть смотрит на выполненную задачу и анализирует, как в следующий раз сделать лучше. Эта команда виртуальных сотрудников, которая строится на внутреннем диалоге искусственного интеллекта, нужна для работы над более сложными задачами, чем написать стихотворение. И он может выполнять задачи сотрудников или помогать им что-то делать, то есть может быть копайлотом, агентом или просто тулзой."
что в экономике происходит сейчас?
"Вернемся в экономику. Каждый раз когда происходит большая технологическая революция, что-то становится дешевле. Например, когда появился интернет, стоимость мобильной связи улетела вниз. Когда началась cloud-революция, упала стоимость хранения данных, и стоимость компьютера начала сильно падать.
Сейчас в первую очередь падает стоимость кода. Разработчикам кажется, что у них упадет зарплата, но я думаю, что человечеству нужно намного больше кода, чем человечество написало пока. Это не только разработчиков коснется, но и любой сферы intellectual work, связанной с информацией. Потенциально это приведет нас к небольшому экономическому шоку и большой структурной безработице. Например, если я управляю венчурным фондом и у меня получилось добавить AI-инструмент, который упрощает работу аналитиков, то я не буду их увольнять, а наоборот найму еще аналитиков, чтобы вместе мы стали самым аналитическим фондом на свете. При этом другие фонды, возможно, потеряют долю рынка, и их сотрудники также потеряют работу. Поэтому здесь не проблема сокращений рабочих мест, скорее просто часть компаний будут выпадать с рынка, а на их место будут приходить стартапы. И этот процесс будет очень сильно ускоряться."
"Вернемся в экономику. Каждый раз когда происходит большая технологическая революция, что-то становится дешевле. Например, когда появился интернет, стоимость мобильной связи улетела вниз. Когда началась cloud-революция, упала стоимость хранения данных, и стоимость компьютера начала сильно падать.
Сейчас в первую очередь падает стоимость кода. Разработчикам кажется, что у них упадет зарплата, но я думаю, что человечеству нужно намного больше кода, чем человечество написало пока. Это не только разработчиков коснется, но и любой сферы intellectual work, связанной с информацией. Потенциально это приведет нас к небольшому экономическому шоку и большой структурной безработице. Например, если я управляю венчурным фондом и у меня получилось добавить AI-инструмент, который упрощает работу аналитиков, то я не буду их увольнять, а наоборот найму еще аналитиков, чтобы вместе мы стали самым аналитическим фондом на свете. При этом другие фонды, возможно, потеряют долю рынка, и их сотрудники также потеряют работу. Поэтому здесь не проблема сокращений рабочих мест, скорее просто часть компаний будут выпадать с рынка, а на их место будут приходить стартапы. И этот процесс будет очень сильно ускоряться."
"Самая большая экономическая опасность связана с большой скоростью развития softwear engeeners. Как показала практика, можно распространить Chat GPT на весь мир за пару месяцев. Мы с такой скоростью можем создавать и внедрять AI solutions, что любой человек может переизобрести себе бизнес буквально за несколько месяцев силами разработчиков, которые у него уже есть. Интересно, что по статистике 80% компаний собираются внедрять AI функционал в течение следующего года, но при этом только 10% компании нуждаются в том, чтобы нанять нового сотрудника, чтобы это сделать. Технологии упрощаются, и мы приходим к моменту, когда сможем сделать сотрудников эффективнее и автоматизировать некоторые бизнес-функции.
Еще возможно автоматизировать менеджерские решения. Мы пытаемся постоянно оцифровать, создать фреймворки, чтобы убежать от своей человеческой сущности и не принимать решения эмоционально. Люди принимают менеджерские решения неправильно, роботы в этом намного лучше. Фремфорки - это репрезентация того, как люди принимают решения. Если мы это совместим с большими языковыми моделями, то мы можем автоматизировать менеджера. Потом мы можем автоматизировать его сотрудников и вот у нас уже департамент получился. Так мы скоро придем к полностью автономным компаниям."
Еще возможно автоматизировать менеджерские решения. Мы пытаемся постоянно оцифровать, создать фреймворки, чтобы убежать от своей человеческой сущности и не принимать решения эмоционально. Люди принимают менеджерские решения неправильно, роботы в этом намного лучше. Фремфорки - это репрезентация того, как люди принимают решения. Если мы это совместим с большими языковыми моделями, то мы можем автоматизировать менеджера. Потом мы можем автоматизировать его сотрудников и вот у нас уже департамент получился. Так мы скоро придем к полностью автономным компаниям."
Про шесть УРОВНЕЙ автоматизации
"Мы с Мариной придумали свои шесть уровней автоматизации компании. Выглядят они следующим образом:
"Мы с Мариной придумали свои шесть уровней автоматизации компании. Выглядят они следующим образом:
Сейчас почти все бизнесы на нулевом уровне. Мы можем использовать CRM, RP, ChatGPT, автоматизацию календаря, возможно, даже внедрить невероятную систему, но в 99% случаев это ерунда. Сейчас только 1-2% бизнесов могут перейти на первый уровень. Это связано с тем, что таких бизнесах есть цифровой двойник. Все действия, которые люди совершают, оставляют за собой цифровой след. Например, мы сейчас, когда мы принимаем инвестиционное решение, мы заполняем большое количество полей и цифр, у нас есть целый процесс. И логика принятий наших решений сохраняется для того, чтобы мы могли их улучшать и чтобы AI на этом тоже учился. То есть если у вас есть полный цифровой двойник предприятия, то вы можете говорить, что вы на первом уровне. И тогда вы можете идти на второй уровень к полностью автономному предприятию и внедрять копайлоты, ИИ-ассистентов, роботов и так далее. На третьем уровне есть агенты, которые заменяют сотрудников, а на четвертом - автономные департаменты, например, отдел логистики. Пятый уровень - это полностью автономный бизнес, условно коробка, которому надо дать денег, электричество и задачу. Это позволит 2-3 людям сделать бизнес, который будет продавать товары на весь мир."
почему люди сопротивляются искусственному интеллекту и к чему это приведет?
"Есть очень маленькое количество людей, которым комфортно в изменениях, они называются иррационалами. Большинство людей в обществе рационалы, которым некомфортно находится в неопределенности, поэтому они начинают отрицать изменения. Сейчас мы можем это наблюдать в отношении AI, но подобное уже повторялась в прошлом веке, когда люди боролись с электричеством. Они говорили, что электричество убивает людей, развешивали агит-листовки. В обществе всегда будет внутреннее сопротивление к изменениям. В итоге мы пришли к тому, что электричество повсюду, то же самое будет с AI."
"Есть очень маленькое количество людей, которым комфортно в изменениях, они называются иррационалами. Большинство людей в обществе рационалы, которым некомфортно находится в неопределенности, поэтому они начинают отрицать изменения. Сейчас мы можем это наблюдать в отношении AI, но подобное уже повторялась в прошлом веке, когда люди боролись с электричеством. Они говорили, что электричество убивает людей, развешивали агит-листовки. В обществе всегда будет внутреннее сопротивление к изменениям. В итоге мы пришли к тому, что электричество повсюду, то же самое будет с AI."
Как инвестировать в искусственный интеллект?
"Чтобы понять, как инвестировать в AI, надо понять, как AI устроено. Первое, с чего начинается AI, это с электричества, потому что без электричества ничего не работает. И во многих кейсах пока неэффективно ничего внедрять, потому что электричество стоит дороже, чем зарплата человека, которого нанимают работать где-нибудь на Филиппинах. Мы уже сейчас жжем много электричества, а будем сжигать будем еще больше. Мы можем уверенно сказать, что траты электричества увеличатся в пять раз за 10 лет. Поэтому во все, что касается генерации, транспортировки, накопления электроэнергии, можно смело инвестировать. Спрос на него будет только расти.
Далее идут чипы, которые сейчас производят в основном Nvidia. Они дико дорогие, сейчас чипы Nvidia стоят 1 000 000 000 000 $ именно потому, что ни у одной другой компании видеокарты не работают настолько хорошо для больших моделей. Суперкомпьютеры сейчас своего рода точка конфликта, потому что каждый cloud-провайдер хочет купить их побольше, но на них есть кфвоты, и это прямо очень политический момент. Стоит ли инвестировать в чипы и в Nvidia? Я не биржевой аналитик, не буду давать вам инвестиционных советов, но мне кажется, что они уже в цене и не будет кратных преобразований. Далее идут AI cloud software, например, Nebius. Потом стоят foundational models, это, например, ChatGPT 4. Стоит ли инвестировать в модели? Возможно только для каких-то узких юзкейсов, например, для создания галантного AI-boyfriend, которого обучают на женских романах, который не будет конкурировать ChatGPT. Поверх этого есть еще самый большой слой в перевернутой пирамиде - это AI Apps. Я думаю, что это будут условно все бизнесы, потому что через пять лет будут AI-бизнесы или мертвые бизнесы. На этом слое находятся те, кто использую AI, чтобы что-то автоматизировать или создать продукт."
"Чтобы понять, как инвестировать в AI, надо понять, как AI устроено. Первое, с чего начинается AI, это с электричества, потому что без электричества ничего не работает. И во многих кейсах пока неэффективно ничего внедрять, потому что электричество стоит дороже, чем зарплата человека, которого нанимают работать где-нибудь на Филиппинах. Мы уже сейчас жжем много электричества, а будем сжигать будем еще больше. Мы можем уверенно сказать, что траты электричества увеличатся в пять раз за 10 лет. Поэтому во все, что касается генерации, транспортировки, накопления электроэнергии, можно смело инвестировать. Спрос на него будет только расти.
Далее идут чипы, которые сейчас производят в основном Nvidia. Они дико дорогие, сейчас чипы Nvidia стоят 1 000 000 000 000 $ именно потому, что ни у одной другой компании видеокарты не работают настолько хорошо для больших моделей. Суперкомпьютеры сейчас своего рода точка конфликта, потому что каждый cloud-провайдер хочет купить их побольше, но на них есть кфвоты, и это прямо очень политический момент. Стоит ли инвестировать в чипы и в Nvidia? Я не биржевой аналитик, не буду давать вам инвестиционных советов, но мне кажется, что они уже в цене и не будет кратных преобразований. Далее идут AI cloud software, например, Nebius. Потом стоят foundational models, это, например, ChatGPT 4. Стоит ли инвестировать в модели? Возможно только для каких-то узких юзкейсов, например, для создания галантного AI-boyfriend, которого обучают на женских романах, который не будет конкурировать ChatGPT. Поверх этого есть еще самый большой слой в перевернутой пирамиде - это AI Apps. Я думаю, что это будут условно все бизнесы, потому что через пять лет будут AI-бизнесы или мертвые бизнесы. На этом слое находятся те, кто использую AI, чтобы что-то автоматизировать или создать продукт."
"Проблема инвестиционных инвесторов в Кремниевой долине в том, что все крупные фонды хотят найти маленьких победителей по типу Facebook. В AI не будет победителей, которые заберут все, выиграет все человечество. Мы как общество получим три вещи. Во-первых, демократизацию знаний, и у любого человека с доступом в Интернет будет возможность поговорить, например, с доктором Стэнфорда, получить от него консультацию. Во-вторых, это очень сильно ускоряет науку. Мы уже видим результаты от внедрения AI в научные лаборатории. И, в-третьих, AI поможет нам создать технологии для решения экологических проблем человечества. Сейчас у нас есть большая проблема с загрязнением планеты, но нет этих технологий для решения. И эти технологии мы можем разрабатывать только вместе с AI."
Malikspace Corporation.
541 Jefferson Avenue
Redwood City, CA 94063
Email: a@murs.ai
541 Jefferson Avenue
Redwood City, CA 94063
Email: a@murs.ai
