Organigramme d'exécution du cache hybride

Créez une infographie technique verticale et épurée, sur fond gris clair, dans un style minimaliste et moderne. Utilisez des cartes blanches arrondies, des contours fins et colorés, des icônes vectorielles simples, du texte bleu foncé et des flèches de connexion bleu foncé. La composition générale est un organigramme centré, de haut en bas, contenant 7 étapes principales numérotées et 2 panneaux parallèles de groupes de cache, reliant l'étape 4 à l'étape 5. Une flèche de retour épaisse et foncée boucle du bas vers le haut, à l'extrême gauche. Utilisez une police sans empattement lisible, un espacement suffisant et des couleurs claires et douces, sans dégradés ni ombres, pour une lisibilité optimale. Placez la carte de l'étape 1 en haut au centre, avec un contour bleu et une icône de code/chat à gauche. Titre : « 1. »{argument name="titre de l'étape 1" default="Demande de fin de chat"}. Sous-titre : « conversation_id + cache_salt + nouveau suffixe message ». En dessous se trouve la carte de l'étape 2, avec un contour bleu et une icône de document/liste. Titre : « 2. Journal des conversations côté client ». Sous-titre : « Location d’un même ID + Suivi des messages validés ». En dessous se trouve la carte Étape 3, avec un contour cyan et une icône de base de données avec une loupe. Titre : « 3. Recherche précise dans le cache des conversations ». Sous-titre : « conversation_id Statut du tour validé ». En dessous se trouve la carte Étape 4, avec un contour violet et une icône de planificateur de branche. Titre : « 4. Attachement du cache du planificateur ». Sous-titre : « Définition de num_computed_tokens + Attachement du statut validé ». À partir de l’étape 4, le système se divise en deux panneaux de groupe côte à côte. Panneau de groupe de gauche : un conteneur arrondi vert clair, intitulé « Groupe de cache KV à pleine attention ». À l’intérieur, deux cartes internes sont empilées. La première carte interne comporte une icône de grille de blocs verts, intitulée « Référence de bloc validé », et sous-titrée « KV complet aligné partagé ». La première carte interne, la deuxième en dessous, présente une icône de feuille verte superposée, intitulée « Copie de queue COW », avec le sous-titre « Copie de la queue KV non alignée ». Un petit pied de page est ajouté au bas du panneau vert : « Pagination des tenseurs K/V pour les couches de transformateur ». Le panneau de groupe de droite est un conteneur arrondi violet clair intitulé « Groupe de cache d'état terminal Mamba ». Il contient deux cartes internes empilées. La première carte présente une icône de base de données/réseau violette, intitulée « État terminal validé », avec le sous-titre « État exact à la longueur validée ». La deuxième carte en dessous présente une icône de ligne ondulée violette, intitulée « Demande de propriété de la copie terminale », avec le sous-titre « Copie de l'état SSM + dialogue ». Un petit pied de page est ajouté au bas du panneau violet : « Placement de l'état terminal en mode aligné ». Les sorties des deux panneaux de groupe sont fusionnées dans la carte Étape 5 centrée, avec un contour bleu et une icône de microprocesseur. Le titre est : « 5. Exécution du modèle hybride ». Le sous-titre est : « Exécuter uniquement les suffixes non mis en cache ». En bas de cette carte, deux étiquettes en forme de capsule sont placées côte à côte : « Couche de transformation » et « Couche Mamba ». L’étape 6 se trouve juste en dessous. Étape 1 : Une carte avec un contour bleu et une icône scintillante. Titre : « 6. Jeton d’assistance au décodage ». Sous-titre : « Diffusion des jetons de réponse un par un ». En dessous se trouve l’étape 7 : Une carte avec un contour jaune-orange chaud et une icône de base de données à cocher. Titre : « 7. Cycle de validation ». Sous-titre : « Publier l’état suspendu ou rejeter en cas d’échec ». Ajoutez une flèche épaisse bleu foncé en boucle à l’extrême gauche, allant du coin supérieur gauche à l’étape 1 et revenant du coin inférieur gauche à l’étape 7. Tracez une boucle le long de ce côté gauche, en plaçant un commentaire superposé près de la moitié inférieure : « Réutiliser l’en-tête de la boîte de dialogue de validation lors de la prochaine requête ». Ajoutez deux flèches pointillées pointant vers le haut à partir de l'étape 7, en direction des panneaux de groupe de cache : une flèche verte pointillée à gauche, pointant vers le panneau de cache vert intitulé « Publier le nouvel état » ; et une flèche violette pointillée à droite, pointant vers le panneau de cache violet, également intitulé « Publier le nouvel état ». Conservez le nombre total de 7 cartes principales numérotées, 2 panneaux de groupe de cache, 4 cartes de cache internes et 2 étiquettes de capsule. Conservez une échelle verticale similaire au diagramme d'architecture des diapositives de la conférence.