Telegram Group & Telegram Channel
🧐 Вся эволюция NLP на одной картинке

На схеме — эволюция моделей работы с текстом. Смотрим, как всё начиналось и к чему пришли.

📍Ось Контекста: чем правее — тем длиннее и сложнее связи модель способна учитывать.

📍Ось Семантического понимания: чем выше — тем лучше модель схватывает смысл.

➡️ Что умеют модели:

• n-gram — видит только ближайшие слова. Контекста почти нет, смысл — минимальный.

• Markov Models — добавляют немного памяти о предыдущих состояниях, но глобального понимания по-прежнему нет.

• RNN / LSTM — уже учитывают порядок и длинные зависимости, но быстро теряются на больших текстах.

• GPT — держит в голове огромный контекст, улавливает сложные зависимости и семантику. Поэтому его ответы и кажутся «пониманием».

🔵 Чтобы знать о машинном обучении все, забирайте наш курс «Базовые модели ML и приложения»

Proglib Academy
#буст
Please open Telegram to view this post
VIEW IN TELEGRAM



tg-me.com/proglib_academy/2842
Create:
Last Update:

🧐 Вся эволюция NLP на одной картинке

На схеме — эволюция моделей работы с текстом. Смотрим, как всё начиналось и к чему пришли.

📍Ось Контекста: чем правее — тем длиннее и сложнее связи модель способна учитывать.

📍Ось Семантического понимания: чем выше — тем лучше модель схватывает смысл.

➡️ Что умеют модели:

• n-gram — видит только ближайшие слова. Контекста почти нет, смысл — минимальный.

• Markov Models — добавляют немного памяти о предыдущих состояниях, но глобального понимания по-прежнему нет.

• RNN / LSTM — уже учитывают порядок и длинные зависимости, но быстро теряются на больших текстах.

• GPT — держит в голове огромный контекст, улавливает сложные зависимости и семантику. Поэтому его ответы и кажутся «пониманием».

🔵 Чтобы знать о машинном обучении все, забирайте наш курс «Базовые модели ML и приложения»

Proglib Academy
#буст

BY Proglib.academy | IT-курсы




Share with your friend now:
tg-me.com/proglib_academy/2842

View MORE
Open in Telegram


telegram Telegram | DID YOU KNOW?

Date: |

China’s stock markets are some of the largest in the world, with total market capitalization reaching RMB 79 trillion (US$12.2 trillion) in 2020. China’s stock markets are seen as a crucial tool for driving economic growth, in particular for financing the country’s rapidly growing high-tech sectors.Although traditionally closed off to overseas investors, China’s financial markets have gradually been loosening restrictions over the past couple of decades. At the same time, reforms have sought to make it easier for Chinese companies to list on onshore stock exchanges, and new programs have been launched in attempts to lure some of China’s most coveted overseas-listed companies back to the country.

Importantly, that investor viewpoint is not new. It cycles in when conditions are right (and vice versa). It also brings the ineffective warnings of an overpriced market with it.Looking toward a good 2022 stock market, there is no apparent reason to expect these issues to change.

telegram from us


Telegram Proglib.academy | IT-курсы
FROM USA