Что такое токены MashaGPT

Автор: MashaGPT • 29 Марта, 2024 • Нейросети Нейросеть в виде девушки на светящемся фоне

При общении с вами чат МашаGPT использует токены. Они нужны для ответов от нейросети. Рассказываем, что это такое и как их экономно расходовать.

Зачем нужны токены

ИИ не понимает текст так, как люди. Чтобы обучить нейросеть работать с языком, тексты преобразуют в числа, с которыми компьютер можно проводить операции. А токены – это способ "разбить" текст на куски, которые затем можно будет преобразовать в числа.

Когда вы печатаете вопрос, нейросеть сначала разделяет ваш текст в последовательность токенов, а затем обрабатывает эти токены, чтобы создать ответ.

Допустим, у нас есть предложение: Маша любит кошек.

В зависимости от обучения нейросети, это предложение может быть разбито на токены так:

По словам: ["Маша", "любит", "кошек"].
По словам и знакам препинания: ["Маша", "любит", "кошек", "."].
По частям слов: ["Маш", "а", "люб", "ит", "кош", "ек"].

Итак, токены MashaGPT – это расчетная единица за пользование чатом. Она расходуется, когда вы вводите запросы и получаете ответы от нейросети.

Как пользоваться токенами в чате МашаGPT

Расход токенов

Токены тратятся не только за каждую пару запрос-ответ, но и за всю историю чата. Чем длиннее чат, тем дороже стоит каждое слово. В зависимости от длины контекста чата в GPT-4 слово может стоить 15, 20, 25 и более токенов. Например, если в истории чата 1000 слов, то затраты будут на следующий запрос 1000*15 + ответ (еще 1000 * 15) и так далее. Поэтому для экономии используйте одну тему для каждого нового чата.

Токены и тарифы

Токены начисляются по выбранному тарифному плану. Они тратятся за генерацию слов нейросетью, а их расход зависит от версии ChatGPT:

GPT-3.5 – 1 слово = 0.5 токенов;
GPT-4 – 1 слово = 10 токенов.

Например, на плане GPT Pass на 400 000 токенов можно сгенерировать около 40 000 слов. А когда творчество требует неограниченных возможностей – переходите на безлимит. В GPT Pro вы можете пользоваться GPT-3.5 безгранично! Нужен безлимитный GPT-4? С планом GPT Ultra вы забудете об ограничениях.

Почему в GPT-4 расход токенов выше, чем в GPT-3.5

Это связано с тем, что компания OpenAI ввела платный доступ к новой версии своего чат-бота. Модель GPT-4 требует больших затрат на вычисления, что требует использования большего количества видеокарт для обработки запросов. Это повышает стоимость за каждую генерацию контента.

Почему количество токенов не совпадает с платежным периодом

Израсходовали все токены по вашему тарифу, а месяц еще не закончился? Вы можете продлить подписку или перейти на безлимитный тариф. Непотраченный остаток не обнуляется и переходит на следующий месяц. Хотите попробовать чат? Чтобы его протестировать, воспользуйтесь пакетом токенов за 190 рублей. С ним доступна версия GPT-4, которая сможет сгенерировать примерно 10 000 слов. Это дешевле, чем услуги копирайтера!