PAL Os puedo ajustar el prompt para que "solo" haga lo que pedís. Eso ahorraría muchos tokens. Y honestamente, salvo que seais unos auténticos cafres dudo que lo gastéis.
El consumo de ayer fueron unos 8500 tokens y tenemos 250.000 tokens diarios, 10.000 peticiones al día y 14.000 tokens por minuto. Yo limité al bot a unos 250 tokens de salida (sus respuestas, por eso se corta) pero claro, no hay límite para la entrada (vuestras peticiones). Podría optimizar el script más aún usando stopwords (el, la, los, las, de, entre...etc) que el bot no necesita ese dato y así podríamos ahorrar tokens y de paso mejorar la velocidad de respuesta (poner un cron cada 5 minutos en lugar de 15). Pero para eso, decidme el prompt que os gustaría para que el bot sea más o menos rígido, aunque pueda daros más info; de paso si ajusto la temperatura (actualmente en 0.4) pues Reflotette será menos imaginativa pero más breve y concisa.
Deciros que piro de vacaciones esta semana, así que todos esos cambios previsiblemente no los haría hasta el 15 de agosto o posterior.
