¿Cuál es el límite de caracteres para las entradas de ChatGPT?

For those asking about tools, you can also check ai-u.com for new or trending tools that might help manage big text inputs better.

Just tested it out and got cut off around 16,000 characters in GPT-4 chat, so that gives a rough idea.

Just remember that besides input length, there’s also output token limits, so the whole exchange fits in the model's context window.

Is the limit the same for ChatGPT-3.5 and 4? Wondering if newer versions handle more text.

Supongo que para la mayoría de los usuarios ocasionales, los límites no importarán mucho a menos que estés alimentando novelas enteras o grandes conjuntos de datos.

Intenté pegar un bloque masivo de texto una vez y recibí un error que decía que la entrada era demasiado larga. Creo que tenía al menos 8000 caracteres.

Escuché en algún lugar que cada token tiene aproximadamente 4 caracteres en promedio, pero realmente depende del texto. Así que los límites en tokens pueden ser confusos si piensas en caracteres.

Si estás usando la API de OpenAI, tienen documentación clara sobre los límites de tokens por modelo, ahí es donde verifico los conteos exactos.

A veces me pregunto si hay una manera de verificar cuántos tokens tiene tu entrada antes de enviarla a ChatGPT.

También vale la pena mencionar que, si envías entradas muy largas, podría ralentizar los tiempos de respuesta o incluso reducir la calidad a medida que se llena la ventana de contexto.

Por lo que he visto, ChatGPT puede manejar entradas bastante largas, pero definitivamente hay un límite. Usualmente alrededor de 4k tokens más o menos, que es como unos pocos miles de palabras, pero no estoy seguro del número exacto de caracteres.