Сэм Олтмэн - юный вундеркинд из Кремниевой долины. Интервью про ChatGPT от его разработчика.
Руководитель OpenAI, Сэм Олтмэн, в интервью, которое он дал Forbes, уверен, что ИИ – это уникальная технология, которая способна принести огромную пользу человечеству. Несмотря на это, он говорит про возможные угрозы, такие как дезинформация и рост безработицы.
- «ИИ изменит общество, и мне немного страшно»
- «Он может стать «величайшей из всех созданных людьми технологий и в значительной мере улучшит жизнь, но опасности, которые она несет, также вполне реальны»
В возрасте 26 лет Сэм Олтмэн продал свой стартап за $43,4 млн, а к 29 годам уже возглавлял Y Combinator – известнейший инкубатор бизнес-проектов, который ежегодно финансировал 100 новых стартапов на Кремниевой долине.
Быстро добившись успеха и заработав личное состояние в $250 млн, Сэм Олтмэн обратил свой взгляд на более полезные для общества дела. С 2019 года он возглавляет Open AI, организацию, направляющую миллиарды долларов на развитие искусственного интеллекта, чтобы ИИ принес пользу всему человечеству, а не превратился в опасного «демона» .
Алекс Конрад (интервьюер): Мне кажется, что мы стоим на пиковой точке популярности ChatGPT, стремления монетизировать его и всего этого волнения вокруг партнерства с Microsoft. С вашей точки зрения, на каком пути находится OpenAI?
— Это точно захватывающее время. Но я надеюсь,что будет продолжительный экспоненциальный путь улучшения технологии и положительного влияния на общество. Мы могли бы сказать то же самое при запуске GPT-3 или при запуске DALL-E. Мы можем ошибаться, мы можем столкнуться с препятствиями, которые мы не ожидаем. Но я думаю, что есть реальный шанс, что мы действительно нашли что-то значимое здесь и сейчас, и эта парадигма приведет нас очень далеко.
ChatGPT -это не новое изобретение.
Ты говорил раньше, что ты думаешь, что люди могут быть удивлены тем, как ChatGPT создавался и работает. Что, по твоему мнению, люди не понимают?
— Одна из вещей - это то, что базовая модель для ChatGPT была в API уже очень давно, 10 месяцев, например. [Примечание редактора: ChatGPT - это обновленная версия модели GPT-3, впервые выпущенной в качестве API в 2020 году.] И я думаю, что одной из удивительных вещей является то, что если вы немного настроите модель и поймете правильную парадигму взаимодействия, то вы можете получить улучшенную версию модели. Это на самом деле не основано на новой технологии. Были и другие системы. И я думаю, что это понимание не очень сильно распространено. Многие люди все еще не верят нам и предполагают, что мы создали что-то абсолютно новое.
Ты был удивлен реакцией на ChatGPT?
—Я немного удивлен масштабом реакции. Но я надеялся и ожидал, что люди действительно полюбят это.
Как-то Грег Брокман - президент OpenAI - сказал мне, что команда даже не была уверена, стоит ли запускать это. Так что не все думали, что это приведет к такому успеху.
— Да, действительно команда была не сильно воодушевлена запускать этот проект. Но мы просто сказали: "Давайте попробуем. Давайте попробуем и посмотрим, что будет". Я очень настаивал на этом. Я действительно верил, что это сработает.
Думаете ли вы, что кроме OpenAI существуют другие компании, способные поддерживать эту экосистему?
Да, я думаю, что для одной компании это слишком большой объем работы. И я надеюсь, что здесь действительно сформируется экосистема. Я думаю, что это намного лучше. Я думаю, что должно быть несколько AGI [искусственных общих интеллектов] в мире в какой-то момент. Так что я действительно приветствую это.
Вы видите параллели между тем, где находится AI-рынок сегодня и, скажем, появлением облачных вычислений, поисковых систем или других технологий?
— Смотрите, я думаю, что параллели всегда есть. И всегда есть вещи, которые являются немного идиосинкратическими. И ошибка, которую большинство людей делают, это слишком много говорить о сходствах и совсем не упоминать о тонких отличиях, которые делают их разными. И поэтому очень легко и понятно говорить о OpenAI, как о "Ах да, это будет просто как битвы за облачные вычисления. И будет несколько таких платформ, и вы будете использовать одну из них в качестве API". Но есть много вещей, которые сильно отличаются, и у людей будут совершенно разные выборы функций. Я думаю, что будет гораздо больше различий между различными предложениями по AI.
Заменит ли ChatGPT поисковые системы?
Люди задаются вопросом, заменяет ли ChatGPT традиционную поисковую систему, такую как Google Search. Это что-то, что вас мотивирует или радует?
— Ну, я не думаю, что ChatGPT заменит Google. Но я думаю, что когда-то это сможет сделать ИИ-система. Более того, я считаю, что люди просто упускают возможность, если они сосредоточены на вчерашних новостях. Меня гораздо больше интересует думать о том, что будет далее после простого поиска. Я не помню, что мы делали до веб-поисковиков, я, видимо, слишком молод.
Чувствуете ли вы, что мы близки к цели, такой как AGI? И как мы узнаем, что близки к этой стадии?
— Я не думаю, что мы очень близки к AGI. Но вопрос о том, как мы узнаем, - это то, над чем я много думал в последнее время. Это будет гораздо более плавный переход. Это будет то, что люди называют "медленным взлетом". И никто не будет согласен на то, что момент наступил, когда у нас появится AGI.
Слом капитализма
Грег [Брокман] заявил, что OpenAI не является антикапиталистической организацией, несмотря на то, что вы занимаемаетесь исследованиями. Как вы управляете балансированием финансовых интересов инвесторов и целей OpenAI?
— Я считаю, что капитализм - это замечательная вещь, и это лучшая из созданных систем, хотя и не без своих недостатков. Конечно, мы надеемся на улучшение в будущем, но в настоящее время мы не можем предвидеть, какое воздействие AGI окажет на эту систему.
Мы сформировали уникальную структуру компании, которая, я думаю, отличается от того, что делают другие корпорации. Мы действительно убеждены в качестве того, что мы делаем. Если бы мы рассматривали OpenAI как просто еще одну технологическую компанию, то мы бы не смогли достичь нашей миссии. В то же время, если AGI действительно будет создано, и мы понимаем, что это сломает нашу существующую структуру, нам потребуется новое понимание о том, как мы должны действовать. Поэтому я верю, что наша команда и наши инвесторы играют очень важную роль в нашем успехе, однако, я также считаю, что никакая компания не должна обладать полной властью над вселенной искусственного интеллекта. Вопросы, касающиеся распределения прибыли AGI, доступа к нему, и управления им, являются сложной темой и требуют нового подхода к мышлению.
Грег показал мне идею будущего API с новыми коммерческими продуктами. Как вы, при этом будете удерживать OpenAI в открытом доступе?
— Я думаю, что самый важный способ сделать это - выпускать открытые инструменты, такие как ChatGPT. Google не выпускает эти вещи для общественного использования. Другие исследовательские лаборатории не делают этого по другим причинам; некоторые люди опасаются, что это небезопасно. Но я действительно верю, что нам нужно, чтобы общество понимало это, видело плюсы, понимало недостатки. Поэтому я думаю, что самое важное, что мы делаем, - это выпускать эти вещи, чтобы мир начал понимать, что нас ожидает дальше.
Кроме того, мы планируем предоставлять всё более усовершенствованные API по мере обеспечения их более высокой безопасности. Мы продолжим делиться публично всеми нашими открытыми данными, включая CLIP [Прим. ред .: визуальную нейронную сеть, выпущенную в 2021 году]. Мы также публично опубликовали Whisper и Triton [автоматическое распознавание речи и язык программирования]. Я считаю, что такой подход - это стратегия, включающая несколько важных элементов, которая позволит нам добиться успеха в нашей миссии, где мы убеждены в необходимости балансировать риски и преимущества каждого шага.
О коммерческой стороне проект
Что бы вы сказали людям, которые могут опасаться, что вы связываете свой успех с Microsoft и его гендиректором Сатьей Наделлой?
— Я бы сказал, что мы тщательно разработали любые сделки с ними, чтобы убедиться, что мы все еще можем выполнить нашу миссию. И также Сатья и Microsoft потрясающие. Я считаю, что они, безусловно, технологическая компания, которая наиболее соответствует нашим ценностям. И каждый раз, когда мы идем к ним и говорим: «Эй, нам нужно сделать это странное дело, которое вам, вероятно, не понравится, потому что оно очень отличается от того, что делала бы типичная сделка, например, ограничение вашего бюджета или установление положений о безопасности перехвата», они говорят: «Это здорово».
Вы чувствуете, что бизнес-давление или реалии коммерческой стороны OpenAI могут противоречить общей миссии компании?
— Совершенно нет. Я вроде известен тем, что не выношу ничего, чего не хочу выносить. Я бы не провел сделку, если бы думал, что это противоречит миссии компании.
Какой самый интересный пример использования GPT вы видели до сих пор? И что пугает вас больше всего?
— Очень сложно выбрать самый крутой пример. Было замечательно увидеть разнообразие вещей, которые люди делали. Я могу сказать, что я нашел наибольшую пользу для себя - это аннотация. Она оказалось для меня абсолютным преимуществом, намного большим, чем я думал. То, что я могу просто получать сводки статей или длинных цепей е-листов, оказалось более полезным, чем я ожидал. Также возможность задавать эзотерические вопросы по программированию или помочь отладить код так, будто у меня есть супер-умный программист, с которым я могу говорить.
Что касается вещей, которые меня пугают… Я с большой озабоченностью наблюдаю за генерирование порно изображений с целью мести. Я думаю, что это причиняет огромный и предсказуемый вред.
Вы думаете, что компании, стоящие за этими инструментами, несут ответственность за то, чтобы подобного рода вещи не происходили? Или это просто неизбежный аспект человеческой природы?
— Я думаю, что оба варианта имеют место быть. Вопрос в том, где вы хотите регулировать это? В некотором смысле было бы отлично, если бы мы просто указывали на это людям и могли сказать: "Эй, вы не можете делать эти вещи". Но я думаю, люди все равно будут продолжать использовать модели с открытым исходным кодом в не самых достойных целях. Компании, которые строят свои продукты на этой технологии, также должны нести ответственность. Поэтому я думаю, что речь должна идти о совместной ответственности и исполнении.
Интервью подготовлено изданием Интервью Эйдж
Журналист Лолита Исмаилова