Modèles pour le streaming de tokens, l'annulation et les états UI de chat résilients.
Utilisation prévue
À appliquer lors de la création d'interfaces de chat devant être instantanées tout en appelant des API LLM distantes.
Modèles de streaming côté serveur pour une expérience utilisateur de chat réactive avec les API compatibles OpenAI.
Modèles pour le streaming de tokens, l'annulation et les états UI de chat résilients.
À appliquer lors de la création d'interfaces de chat devant être instantanées tout en appelant des API LLM distantes.
engagement.views 0 · engagement.downloads 0 · engagement.comments 0