Повлияет ли GPT-3 на нашу будущую работу?

GPT-3 может писать стихи, рассказы, статьи и даже код! Все они используют возможности искусственного интеллекта (ИИ). Но является ли это «угрозой» или «помощью» нашей будущей работе? Вот вопрос, которым я займусь сегодня…

*Эта статья была написана человеком 😉*

Содержание:
– Что такое GPT-3?
– Как проходили обучение GPT-3?
– Как работает GPT-3?
– Как GPT-3 используется в настоящее время?
- Как GPT-3 повлияет на нашу работу в будущем?
- Будущее GPT-3
- Заключительные мысли

Что такое ГПТ-3?

Чтобы действительнопонять, что такое GPT-3, вам нужно разобраться в его области (ИИ). Вы когда-нибудь видели научно-фантастический фильм? Если да, то вы, вероятно, знаете, что большинство из них имеют супер впечатляющие (и немного пугающие) технологии. Летающие автомобили, роботы, которые чувствуют эмоции, и сверхвысокотехнологичные космические корабли. Все эти примеры — это то, на что однажды может быть способен ИИ. Летающие автомобили уже тестируют в некоторых частях мира (как это круто?). ИИ (искусственный интеллект) простыми словами — это способность машины учиться и выполнять задачи, как люди (думать или действовать).

GPT-3 был выпущен OpenAI (исследовательская лаборатория ИИ, соучредителем которой является Илон Маск) в мае 2020 года. GPT-3 — это сокращение от Generative Pre-trained Transformer 3. По сути, это уже предварительно обученный алгоритм ( уже получил все данные для выполнения своей задачи) и генерирует текст, похожий на человеческий. GPT-3 — это просто модель предсказания языка, основанная на глубоком обучении. Однако он намного больше и лучше, чем его старшие братья и сестры GPT-2 и GPT-1. Она даже считается крупнейшей в мире когда-либо созданной нейронной сетью с 175 миллиардами обучаемых параметров! Кроме того, GPT-3 является крупнейшей в мире обученной языковой моделью.

• Глубокое обучение = тип машинного обучения и ИИ, который учит машины тому, как учиться и принимать решения, как люди (на самом деле он использует нейронную сеть).
• Нейронная сеть = набор алгоритмов, которые пытаются распознать фундаментальные взаимосвязи в наборе данных, используя метод, аналогичный тому, как работает человеческий мозг.
• Языковая модель (LM)= говоря простыми словами, LM – это вероятностная модель, котораяпомогает предсказать, какие следующие слова с наибольшей вероятностью появятся в предложении. .

*Это очень техническая часть (вы можете пропустить ее до следующего раздела, если хотите😉)*

Позвольте мне подробно объяснить, как работает нейронная сеть:
Мы берем наши входные данные (x) и суммируем их веса (с весами, равными w), пропускаем их через функцию активации, и мы получаем наш вывод (y). Параметры — это веса соединений в нейронной сети.

Если вы хотите узнать больше о нейронных сетях, очень рекомендую эту статью: Что такое нейронные сети?

Как обучали GPT-3?

*Включает в себя очень технические детали*

GPT-3 — это модель обучения нейронной сети, которая была обучена с использованием интернет-данных (всего 570 ГБ) и 175 миллиардов параметров. По оценкам, стоимость обучения GPT-3 составила 4,6 миллиона долларов (с использованием графического процессора Tesla V100)! Основная причина, по которой GPT-3 вызвала такой ажиотаж, заключается в том, что это первая модель НЛП, использующая такое количество параметров (что является огромным достижением в области ИИ).

НЛП означает обработку естественного языка. Он помогает машинам понимать нашу письменную и устную речь (естественный язык) и выполнять заданные задачи на его основе с помощью ИИ. Параметр — это значения (установленные перед процессом обучения), которые алгоритм может индивидуально изменять по мере обучения. Проще говоря, это значения, которые алгоритм узнает в нейронной сети 😉. Чем больше параметров у модели, тем больше данных требуется для ее обучения. Следовательно, поскольку GPT-3 использует так много параметров (175 Б), для обучения потребуется 355 лет. Однако, по оценкам исследователей, для обучения GPT-3 потребовалось всего 34 дня(с использованием графического процессора A100)!

GPT-3 — это модель-трансформер (Generative Pre-trained Transformer 3), предварительно обученная генеративным и полностью неконтролируемым способом.

• Модель преобразователя= Преобразователь — это нейронная сеть, которая отслеживает связи в последовательных данных для изучения контекста и значения.
• Генеративное обучение = предполагает, что машина автоматически обнаруживает и изучает закономерности во входных данных (данные, которые были переданы машине), которые можно использовать для создания новых примеров, которые можно было бы извлечь из входных данных.
• Обучение без учителя = машины анализируют необработанные необработанные данные и находят в них скрытые структуры (без участия человека).

Ниже приведено сравнение между предыдущими предварительно обученными моделями NLP (обработка естественного языка) и GPT-3. Я думаю, вы согласитесь со мной, что GPT-3, безусловно, является огромным достижением в этой области.

GPT-3 обучается на 499 миллиардах токенов (версия, использующая параметры 175B). Токены являются строительными блоками естественного языка. Это способ разделения текста на более мелкие единицы (например, слова).
Это данные, которые использовались для обучения GPT-3:

Как работает GPT-3?

GPT-3 просто вычисляет, насколько вероятно слово появится следующим, учитывая доступное предложение (или слово). Это называется условной вероятностью слов. Например, если я даю ОПП-3 такое предложение: «Утром было пасмурно, поэтому ночью будет ___», скорее появится слово «дождь», чем словосочетание «будет солнечно». GPT-3 также может анализировать контекст данного текста и генерировать статьи, истории, мемы и многое другое! Вот почему GPT-3 — самый мощный и продвинутый алгоритм автозаполнения текста. Вы можете просто предоставить примеры задачи, которую хотите сделать (с описанием задачи), и GPT-3 сделает это!
Например:
Если я дам это описание GPT-3: «с английского на испанский» с примером
«Привет ➡️Hola» и скажу, чтобы решить эту проблему :
Доброе утро➡️?
GPT-3 узнает, что мы просим перевести слово с английского на испанский. Таким образом, давая вывод: Buenos Dias.

GPT-3 работает, предсказывая следующее слово (токен) по последовательности слов (токенов) и может выполнять задачи НЛП, которым он не обучался.
Это связано с тем, что GPT-3 обладает высокой производительностью при «обучении за несколько выстрелов». Несколько снимков позволяют вам привести пример текста, который никогда ранее не выставлялся, потому что он уже был обучен на большом количестве текстовых данных (данные из Интернета и параметры 175B). Вот почему GPT-3 нужно всего несколько примеров, чтобы получить хороший ответ (это означает, что GPT-3 — модель, не зависящая от задач).

Помните, что примеры служат только для обеспечения контекста ввода. Он не обучен в приведенном нами примере (GPT-3 уже предварительно обучен); таким образом, это не необходимо. Вот почему GPT-3 также работает с нулевым выстрелом (примеров нет) и однократным (только один пример). Однако, чем больше примеров мы приведем, тем более точным будет ответ ГПТ-3 (в зависимости от поставленной задачи).
Вся расчетная точность ГПТ-3 исходя из ее задач находится здесь.

Задачи NLP (обработка естественного языка) — это практически любые задачи, связанные с естественным языком: переводы, обобщение, создание контента и многое другое.

Более подробную информацию см. в этом исследовательском документе: «Языковая модель — немногие ученики.»

Как в настоящее время используется GPT-3?

Единственный способ получить доступ к GPT-3 — через playground API. Когда GPT-3 был впервые запущен в 2020 году, это был частный API, доступ к которому нам пришлось долго ждать. К счастью, теперь он открыт для публики, и мы можем получить доступ без ожидания! Нам просто нужно создать учетную запись и начать играть с ней.

Поскольку GPT-3 способен выполнять так много задач, он используется по-разному. Многие приложения, программы и даже компании были созданы с использованием GPT-3. Вот лишь некоторые из них:

• Статья написана GPT-3.
• Генератор кода.
• Компаньон по чат-боту
• Онлайн-игра
• Генератор электронной почты.

Как GPT-3 повлияет на нашу будущую работу?

GPT-3, как вы теперь знаете, способен на очень многое. От простых переводов до ровных кодов. И из-за этого многие люди начали задаваться вопросом, заменит ли GPT-3 некоторые рабочие места. Но будет ли?

Лично я считаю, что GPT-3 заменит неквалифицированных программистов и писателей. Тем не менее, я не думаю, что это то, о чем стоит слишком беспокоиться. Ты знаешь почему? Потому что GPT-3 всегда должен сначала проверять человек, чтобы убедиться, что он хорошо сработал. И как Ахмад Тайе (инженер МТ) сказал: «У GPT-3 нет такого понимания мира, как у нас».

Кроме того, GPT-3 уменьшит количество «скучных» задач, которые должны выполнять программисты. Позвольте им сосредоточиться на «творческой» и «творческой» части!

Следует помнить, что GPT-3 может быть сложно внедрить во всех отраслях и компаниях из-за его стоимости, различных развивающихся технологий и общественного мнения. Кроме того, кто, как не мы, создаст более полезные и хорошие технологии? В отличие от людей, машины не могут воспроизводить себя😆.

Будущее ГПТ-3

В 2021 году Microsoft приобрела лицензию на получение исходного кода GPT-3. Это позволяет им использовать технологию GPT-3 в своих продуктах и ​​вносить любые изменения в GPT-3 по своему усмотрению. В середине 2021 года Microsoft анонсировала свой первый продукт, использующий GPT-3! Это определенно хорошая новость для GPT-3, потому что Microsoft позаботится о том, чтобы они использовали GPT-3 с умом и не позволили GPT-3 умереть (как некоторые технологии в прошлом).

GPT-3 позволяет нам делать задачи проще и быстрее для людей. GPT-3 можно использовать и реализовывать разными способами. Я иногда представляю, что было бы, если бы мы объединили ТПТ-3 и здоровье. Например, мы могли бы дать описание симптомов пациента и позволить GPT-3 проанализировать и диагностировать, какое состояние может быть у пациента. Это, безусловно, сделало бы осмотры проще, быстрее и доступнее (то есть они могли бы быть виртуальными).

Одно я знаю точно: у GPT-3 определенно большое будущее!

Последние мысли

GPT-3 был создан, чтобы облегчить наши задачи, а не заменить нас. Я считаю, что нам не следует слишком беспокоиться о том, что GPT-3 заменит наши рабочие места. Вместо этого мы должны использовать преимущества, которые дает нам GPT-3, и использовать их с пользой.

Я считаю, что технологии здесь, чтобы помочь нашей жизни.
Как однажды сказал Билл Гейтс: «Компьютер был создан для решения проблем, которых раньше не существовало».

Спасибо за чтение! Надеюсь, вам понравилось.

Дополнительные материалы на PlainEnglish.io. Подпишитесь на нашу бесплатную еженедельную рассылку новостей. Подпишитесь на нас в Twitter, LinkedIn, YouTube и Discord.