Искусственный интеллект —угроза или спасение для человечества? Часть 2
4 марта мы провели GPT Party на 400+ участников, во время которого прошла увлекательная панельная дискуссия на тему искусственного интеллекта. В этой и последующих статьях мы продолжаем делиться самыми интересными моментами прошедшего мероприятия.
С первой статьей вы можете ознакомиться здесь.
Примечание: выступления спикеров приведены не дословно. ChatGPT переписал их в более четкой и понятной текстовой форме.
С первой статьей вы можете ознакомиться здесь.
Примечание: выступления спикеров приведены не дословно. ChatGPT переписал их в более четкой и понятной текстовой форме.
Игорь Шойфот: Мне кажется, что уровень страха перед тем, что представляет собой искусственный интеллект, возрастает. У меня он точно возрос. Если бы пять лет назад я сидел самозванцем на этой панели и говорил: "Да, ну, ребята, ну, искусственный интеллект, шахматы и так далее", то теперь я думаю иначе. Давайте рассмотрим две вещи.
Первое: я думаю, что многие из вас знакомы с работами Ника Бострома. Он посвящает свою жизнь изучению экзистенциальных рисков и рискам существования человечества. У него есть интересная концепция насчет того, что мы, по мере нашего прогресса, в том числе и технологического, вытаскиваем из черного ящика шары. Он их называет очень оригинально - белый, серый и черный. Белый шар - это что-то полезное, например, пенициллин, который никому не вредит. Серый шар - это что-то, что может быть полезным, но может также и быть опасным, например, лук может использоваться не только для пищи, но и для охоты. Наконец, черный шар - это что-то, что очень опасно, например, возможность создавать вирусы.
Второе: Гарри Каспаров до сих пор оспаривает, что он не совсем справедливо проиграл в шахматы, потому что компьютер использовался для помощи противнику. Он говорит, что даже не очень опытный игрок, с третьим юношеским разрядом, с помощью обычной программки может обыграть гроссмейстера. Это достаточно страшно, потому что если соединить возможность того, что мы вытянем скоро самые черные шары, с вероятностью того, что супер интеллект будет быстро самосовершенствоваться, случится то, что никому не понравится.
Первое: я думаю, что многие из вас знакомы с работами Ника Бострома. Он посвящает свою жизнь изучению экзистенциальных рисков и рискам существования человечества. У него есть интересная концепция насчет того, что мы, по мере нашего прогресса, в том числе и технологического, вытаскиваем из черного ящика шары. Он их называет очень оригинально - белый, серый и черный. Белый шар - это что-то полезное, например, пенициллин, который никому не вредит. Серый шар - это что-то, что может быть полезным, но может также и быть опасным, например, лук может использоваться не только для пищи, но и для охоты. Наконец, черный шар - это что-то, что очень опасно, например, возможность создавать вирусы.
Второе: Гарри Каспаров до сих пор оспаривает, что он не совсем справедливо проиграл в шахматы, потому что компьютер использовался для помощи противнику. Он говорит, что даже не очень опытный игрок, с третьим юношеским разрядом, с помощью обычной программки может обыграть гроссмейстера. Это достаточно страшно, потому что если соединить возможность того, что мы вытянем скоро самые черные шары, с вероятностью того, что супер интеллект будет быстро самосовершенствоваться, случится то, что никому не понравится.
Руслан Гафаров: "Я думаю, что не мы создаем тренды. Я немного блогер, создаю контент, который, как мне кажется, будет интересен в Instagram или YouTube. Однако, я понимаю, что задача искусственного интеллекта в Facebook или YouTube, не в том, чтобы я создавал контент, который будет развивать людей.
Искусственный интеллект создает тренды, в которых я буду создавать контент низкого качества. Есть эксперимент, в котором около мужчины ходили полуобнаженные женщины, и его IQ при этом уменьшилось на половину. И это факт.
Представьте, что Instagram и YouTube являются метафорой этого эксперимента. Они заставляют женщин опускать лямку, показывать грудь и получать больше лайков, подписчиков и т.д., чтобы привлечь внимание мужчин. Это уменьшает интеллект мужчин и приводит к продаже им чего-то впоследствии. Сегодня лучшие умы мира работают в Google и Facebook, чтобы решить эту конкретную задачу. Это уже происходит сейчас, а не в будущем. Как блогер, я понимаю, что иногда мне нужно создавать контент низкого качества, чтобы быть интересным для YouTube.
Я жду, что в будущем у меня будет возможность нажать кнопку 'развивай' в социальной сети, и искусственный интеллект, используя информацию обо мне, будет помогать мне расти и развиваться."
Искусственный интеллект создает тренды, в которых я буду создавать контент низкого качества. Есть эксперимент, в котором около мужчины ходили полуобнаженные женщины, и его IQ при этом уменьшилось на половину. И это факт.
Представьте, что Instagram и YouTube являются метафорой этого эксперимента. Они заставляют женщин опускать лямку, показывать грудь и получать больше лайков, подписчиков и т.д., чтобы привлечь внимание мужчин. Это уменьшает интеллект мужчин и приводит к продаже им чего-то впоследствии. Сегодня лучшие умы мира работают в Google и Facebook, чтобы решить эту конкретную задачу. Это уже происходит сейчас, а не в будущем. Как блогер, я понимаю, что иногда мне нужно создавать контент низкого качества, чтобы быть интересным для YouTube.
Я жду, что в будущем у меня будет возможность нажать кнопку 'развивай' в социальной сети, и искусственный интеллект, используя информацию обо мне, будет помогать мне расти и развиваться."
Давид Ян: "Я только что попросил у Морфеуса привести конкретные примеры того, как искусственный интеллект может причинить вред человечеству. Он говорит о примерах, связанных с автономным оружием, неконтролируемым алгоритмическим принятием решений, усиленным мониторингом и манипуляциями данными. Добавляет, что важно помнить, что любую технологию можно использовать как во благо, так и во вред.
Я говорю: "Хорошо, как искусственный интеллект может помочь бороться с дипфейками?". Он говорит: "Можно использовать его для обнаружения подделок, анализируя изображения на наличие несоответствий. Например, можно проанализировать выражение лица и шаблоны пикселей, чтобы обнаружить потенциальные манипуляции".
Я спрашиваю: "Хорошо, а как искусственный интеллект может помочь человечеству?" Тут он перечисляет множество вещей, которые он может сделать. Я спрашиваю: "Как это будет реализовано? Поможет ли это уменьшить налоги?" Он говорит, что люди будут меньше работать, и это будет означать больше отдыха. Я говорю: "Хорошо, но тогда люди с низкой квалификацией потеряют работу". Он отвечает: "Да, это правда. В краткосрочной перспективе люди с низкой квалификацией могут оказаться в невыгодном положении по сравнению с теми, кто хорошо образован и квалифицирован. Однако в долгосрочной перспективе эти же люди могут воспользоваться возможностями искусственного интеллекта для самопереподготовки".
Я хочу вам сказать следующее: все это полная ерунда. На самом деле, ничего радикального не произойдет, кроме одного. Среди нас появятся не биологические компаньоны, и я уже поспорил на несколько бутылок дорогого шампанского с моими друзьями на то, что через пять лет мы встретимся в этом самом ресторане, и здесь будет сидеть, как минимум, один гость с небиологической собачкой, которую он будет гладить и общаться с ней, как со своим собственным членом семьи. А еще через несколько лет на улицах, площадях и в городах некоторых стран появятся люди с призывами "Robots Lifes Matter".
Мы говорили о блогерах и т.д. То же самое происходит с искусством в целом. Вчера я с Катей был на выставке в Сан-Франциско - это первый музей искусства и искусственного интеллекта с фантастическими работами. Когда мы создаем изображение через миджори, кто является художником? Я хочу сказать, что блогер не становится потрясающим блогером благодаря своим литературным способностям, как это у наших коллег здесь, а благодаря создаваемым связям с людьми, которые читают его. Эти эмоциональные связи также возникают и когда мы говорим об артисте Фредди Меркьюри, который выходит на сцену перед аудиторией в 50 000 человек - это огромный мега-сексуальный акт, который вызывает окситоцины и другие медиаторы, чтобы соединить аудиторию с ним.
Только когда искусственный интеллект станет частью нашего общества, с которым мы будем хотеть поссориться, поругаться, влюбиться и разойтись, начнется серьезное изменение. Я уверен, что будут ситуации, когда консилиум врачей, уже отказавшийся от ребенка, получит помощь от ChatGPT, который знает миллионы разных случаев и найдет причину. Это произойдет, когда мы научимся существовать вместе с искусственным интеллектом, который будет спасать детей и взрослых. Мы начнем рассматривать некоторые модели и системы как часть общества и будем считать их своими, потому что они спасли наших детей.
Тогда мы пойдем на улицы и будем требовать, чтобы некоторые модели и системы получили часть человеческих прав. Линия между биологическим и не биологическим станет размытой, каждое биологическое существо будет иметь своего не биологического оппонента, и у не биологических существ будут кусочки, сделанные на основе ДНК. Этические и моральные принципы будут новыми"
Я говорю: "Хорошо, как искусственный интеллект может помочь бороться с дипфейками?". Он говорит: "Можно использовать его для обнаружения подделок, анализируя изображения на наличие несоответствий. Например, можно проанализировать выражение лица и шаблоны пикселей, чтобы обнаружить потенциальные манипуляции".
Я спрашиваю: "Хорошо, а как искусственный интеллект может помочь человечеству?" Тут он перечисляет множество вещей, которые он может сделать. Я спрашиваю: "Как это будет реализовано? Поможет ли это уменьшить налоги?" Он говорит, что люди будут меньше работать, и это будет означать больше отдыха. Я говорю: "Хорошо, но тогда люди с низкой квалификацией потеряют работу". Он отвечает: "Да, это правда. В краткосрочной перспективе люди с низкой квалификацией могут оказаться в невыгодном положении по сравнению с теми, кто хорошо образован и квалифицирован. Однако в долгосрочной перспективе эти же люди могут воспользоваться возможностями искусственного интеллекта для самопереподготовки".
Я хочу вам сказать следующее: все это полная ерунда. На самом деле, ничего радикального не произойдет, кроме одного. Среди нас появятся не биологические компаньоны, и я уже поспорил на несколько бутылок дорогого шампанского с моими друзьями на то, что через пять лет мы встретимся в этом самом ресторане, и здесь будет сидеть, как минимум, один гость с небиологической собачкой, которую он будет гладить и общаться с ней, как со своим собственным членом семьи. А еще через несколько лет на улицах, площадях и в городах некоторых стран появятся люди с призывами "Robots Lifes Matter".
Мы говорили о блогерах и т.д. То же самое происходит с искусством в целом. Вчера я с Катей был на выставке в Сан-Франциско - это первый музей искусства и искусственного интеллекта с фантастическими работами. Когда мы создаем изображение через миджори, кто является художником? Я хочу сказать, что блогер не становится потрясающим блогером благодаря своим литературным способностям, как это у наших коллег здесь, а благодаря создаваемым связям с людьми, которые читают его. Эти эмоциональные связи также возникают и когда мы говорим об артисте Фредди Меркьюри, который выходит на сцену перед аудиторией в 50 000 человек - это огромный мега-сексуальный акт, который вызывает окситоцины и другие медиаторы, чтобы соединить аудиторию с ним.
Только когда искусственный интеллект станет частью нашего общества, с которым мы будем хотеть поссориться, поругаться, влюбиться и разойтись, начнется серьезное изменение. Я уверен, что будут ситуации, когда консилиум врачей, уже отказавшийся от ребенка, получит помощь от ChatGPT, который знает миллионы разных случаев и найдет причину. Это произойдет, когда мы научимся существовать вместе с искусственным интеллектом, который будет спасать детей и взрослых. Мы начнем рассматривать некоторые модели и системы как часть общества и будем считать их своими, потому что они спасли наших детей.
Тогда мы пойдем на улицы и будем требовать, чтобы некоторые модели и системы получили часть человеческих прав. Линия между биологическим и не биологическим станет размытой, каждое биологическое существо будет иметь своего не биологического оппонента, и у не биологических существ будут кусочки, сделанные на основе ДНК. Этические и моральные принципы будут новыми"
Николай Давыдов: "Из-за таких, как Давид, возникло понятие HLAI. Разделили AGI и HLAI. HLAI - это human life AI, а AGI - artificial general intelligence. Я очень надеюсь, что президентом Земли станет искусственный интеллект. Боже упаси его быть человекоподобным. Мы, люди, очень неэффективные существа. Мы почти проиграли в эволюции. Сегодня я, например, вставая с кровати, потянул одновременно ногу и спину, а представьте, чтобы орел мог так сделать, вылетая из гнезда.
Мы создаем инструменты для себя. ChatGPT - просто инструмент, который делает нас чуть более эффективными и приспособленными к жизни.
Как работает ChatGPT? Это очень большая модель с несколькими миллиардами параметров. Она не обладает сознанием, в отличие от, к примеру, Морфеуса, который пытается собрать Дэвид Ян. ChatGPT, в лучшем случае, имеет внимание (attention), большую модель трансформеров, которая статистически предсказывает следующее слово предложения. Она видела все, что написали люди в интернете, кроме того, что было удалено модераторами.
Вы подаете ей запрос на английском языке, и она предлагает следующее слово, учитывая контекст. Она работает на основе статистических данных, не обладает информацией, просто предлагает слова, которые могут подойти в данном контексте.
Многие стартапы в YCombinator сейчас работают над этим. Я думаю, что говорить о HLAI и AI сейчас рано. Я смотрю на все технологии как на до AGI и после AGI, потому что после AGI все будет по-другому. Мы не можем предсказать, как именно, но вопрос не в том, что это будет fusion или AGI, а в том, что после AGI все изменится."
Продолжение следует...
Мы создаем инструменты для себя. ChatGPT - просто инструмент, который делает нас чуть более эффективными и приспособленными к жизни.
Как работает ChatGPT? Это очень большая модель с несколькими миллиардами параметров. Она не обладает сознанием, в отличие от, к примеру, Морфеуса, который пытается собрать Дэвид Ян. ChatGPT, в лучшем случае, имеет внимание (attention), большую модель трансформеров, которая статистически предсказывает следующее слово предложения. Она видела все, что написали люди в интернете, кроме того, что было удалено модераторами.
Вы подаете ей запрос на английском языке, и она предлагает следующее слово, учитывая контекст. Она работает на основе статистических данных, не обладает информацией, просто предлагает слова, которые могут подойти в данном контексте.
Многие стартапы в YCombinator сейчас работают над этим. Я думаю, что говорить о HLAI и AI сейчас рано. Я смотрю на все технологии как на до AGI и после AGI, потому что после AGI все будет по-другому. Мы не можем предсказать, как именно, но вопрос не в том, что это будет fusion или AGI, а в том, что после AGI все изменится."
Продолжение следует...
Malikspace Corporation.
541 Jefferson Avenue
Redwood City, CA 94063
Email: a@murs.ai
541 Jefferson Avenue
Redwood City, CA 94063
Email: a@murs.ai
