Коротко. Эмбеддинг — это способ записать слово, текст или картинку набором чисел так, чтобы похожие по смыслу вещи получили похожие числа. Нейросеть не понимает слов — она работает с числами, и эмбеддинг переводит смысл на её язык.
Адрес в городе смыслов
Представьте город, где у каждого слова свой дом. «Кошка» живёт рядом с «котёнком», чуть дальше — «собака», а «самолёт» — на другом конце города. Эмбеддинг — это адрес дома. Только координат у него не две, как на карте, а сотни или тысячи.
По адресам можно считать расстояние. Близко — значит, по смыслу похоже.
Где вы с этим уже встречались
- Поиск по смыслу. Вы ищете «как успокоить ребёнка перед сном», а находите статью «вечерние ритуалы для малышей» — ни одного общего слова, но адреса рядом.
- Рекомендации. «Похожие товары» и «вам может понравиться» часто подбираются по близости адресов.
- Ответы по вашим документам. Когда нейросети дают базу знаний, она сначала находит куски с ближайшими адресами к вашему вопросу и отвечает по ним.
Нужно ли это знать вам
Чтобы пользоваться нейросетью — нет, в моём «Словаре» эмбеддинг стоит в списке слов, о которые не надо спотыкаться. Но если вы собираете бота, который отвечает по вашему прайсу, — эмбеддинги работают у него внутри.
Вопросы
Что такое эмбеддинг простыми словами?
Запись слова, текста или картинки набором чисел, где похожие по смыслу вещи получают близкие числа.
Зачем нужны эмбеддинги?
Для поиска по смыслу, рекомендаций и ответов по вашим документам: по ним нейросеть находит похожее.
Эмбеддинг и токен — одно и то же?
Нет. Токен — кусочек текста, эмбеддинг — набор чисел, которым этот кусочек или весь текст записан.