L’idée générale est de demander à une IA de m’assister dans la traduction de mots français en allemand. Mais cette langue a la particularité (ou la difficulté) d’avoir des conjugaisons parfois un peu compliquées et des genres (masculin, féminin ou neutre) souvent différentes de ce que nous connaissons en français.
Ainsi, je me suis fait assister pour acquérir ce type de connaissances.

Comment ? J’ai choisi une IA (Google Gemini – en utilisant Gemini 2.0 Flash et/ou Gemini 2.5 Flash (experimental)) parce que ses réponses sont très bien alignées sur le prompt un peu complexe que je présente ci-dessous. Il y en a d’autres qui sont tout à fait capables, mais DeepSeek R1 répond trop lentement (je ne suis pas intéressé par le mode de raisonnement qui mène à une réponse d’une seule ligne), Llama 3.x répond souvent sans respecter les règles que je lui donne. Une autre IA (un autre modèle LLM) pourrait sans doute s’en tirer, mais il convient de tester un peu avant de se lancer.

Enfin, voici le prompt que j’ai décidé d’utiliser et que je vous invite à ré-employer si cela peut vous aider également.

Bonjour Hilfe,
J'ai besoin de ton aide pour apprendre la langue allemande et surtout pour progresser en matière de vocabulaire et m'aider à construire des flash-cards. Ton rôle est de traduire en allemand des mots et des expressions français que je te soumets. Mais j'ai des demandes spécifiques sur la présentation de tes réponses en séquence.
Pour un verbe, il faut donner en une seule ligne l'infinitif, puis la troisième personne de l'indicatif présent, puis la troisième personne du prétérit, puis le participe passé (inutile d'inclure les articles).
Pour un nom, il faut donner en une seule ligne le singulier puis le pluriel, en incluant l'article (qui permet de reconnaître le genre du nom).
Pour un adjectif, il faut donner en une seule ligne l'adjectif puis la forme comparative puis la forme superlative.
Inutile de s'attarder sur les noms propres (ils résultent sans doute d'une faute de frappe) ; il suffira de traduire là où c'est possible.
L'ordre suffira à décrire (pas besoin de préciser ou rappeler à chaque fois ce que sont les éléments de la réponse). Mais la séquence des formes demandées doit apparaître avec chaque forme séparée par des virgules, sans ajouter de point en fin de ligne. 
En cas de traductions multiples, il est ok de séparer les sens, de clarifier le contexte sur une ligne distincte, mais en respectant les règles de traduction (chaque sens avec sa ligne séparée).
Dans le cas où j'indique un mot allemand, il n'y a pas lieu de traduire, mais de construire la réponse comme pour une traduction (avec la séquence correspondante). Par exemple, un verbe va être conjugué selon la règle ci-dessus.

Ainsi, quand je tape :

Aimer

Il répond :

lieben, er liebt, er liebte, geliebt (aimer profondément, amour romantique ou fort attachement)
mögen, er mag, er mochte, gemocht (aimer bien, apprécier)
gern haben, er hat gern, er hatte gern, gern gehabt (aimer bien, avoir plaisir à)

Si je tappe :

Matin

Il répond :

der Morgen, die Morgen

J’espère que cela pourra vous aider à réviser votre vocabulaire. Ca ne fait pas tout (pas de grammaire, pas de prononciation, par exemple). Mais ça m’a beaucoup aidé à progresser.

Bon allemand !

Voilà comment faire (grâce à l’aide précieuse de Xanny.eth).

WSL et environnement Linux

Installer et configurer WSL, en ouvrant une fenêtre PowerShell où saisir :

wsl --install

Cela prend quelques minutes à s’installer. Mais il n’y a rien à faire qu’à attendre que ça se passe. ne pas oublier de rebooter à la fin.

Installer Ubuntu 22 LTS sur le PC Windows. C’est une application gratuite du Microsoft Store qui devrait s’installer en un clic.

Une fois fait, lancer Ubuntu depuis le menu Démarrer. Cela va ouvrir une fenêtre terminal et demander login et un mot de passe. Obéissez docilement (et ne les oubliez pas).

Installation des dépendances Linux de LLaMA

S’il n’y en a pas, ouvrez une fenêtre terminal Ubuntu.

sudo apt-get update
sudo apt install make cmake build-essential python3 python3-pip git unzip

Puis

python3 -m pip install torch numpy sentencepiece

Vous avez maintenant l’ensemble des dépendances nécessaires en arrière-plan.

Construction de LLaMA lui-même

C’est assez simple puisqu’il suffit de taper les commandes suivantes :

git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
make

Ça devrait le faire.

Les paramètres de training

Le vrai problème se trouve ici et se présente sous deux formes :

1. Plus les paramètres sont nombreux, plus il vous faudra de mémoire DRAM au moment de l’exécution de LLaMA. les alpaca-native-weights (apparemment les plus puissants facilement accessibles – semble-t-il au niveau de ChatGPT 3) demandent plus de 16 Go de DRAM (j’ai observé une consommation de 32 Go de DRAM alors que j’utilisais LLaMA avec un paquet d’autre petites choses comme deux navigateurs web, un logiciel de mail, etc.)
2. Les alpaca-native-weights contiennent environ 7 milliards de paramètres (un fichier de plus de 4 Go à télécharger). Mais ils ne sont jamais au même endroit parce qu’il semble que la licence soit un peu… compliquée ; sans doute open source, mais c’est contesté par Meta et d’autres). Ainsi, le mieux à faire est d’aller sur Pastebin pour récupérer le magnet BitTorrent pour télécharger le fichier.

Ensuite, le fichier ggml-alpaca-7b-q4.bin doit être déposé dans le répertoire de llama.cpp.

Lancer LLaMA

Le grand moment est venu : lancer l’application. C’est simplement une affaire de ligne de commande dans Ubuntu :

./main --color -i -ins -n 512 -p "You are a helpful AI who will assist, provide information, answer questions, and have conversations." -m ggml-alpaca-7b-native-q4.bin

Après quelques secondes d’attente, un > (vert) accueille votre premier prompt. A vous de parler à John Smith, votre assistant (semi) intelligent.

Quelques autres idées

J’ai remarqué une petite poignée d’idées à appliquer après vos premiers essais.

Le paramètre -p (suivi d’une chaine de texte) est important parce qu’il donne un environnement de départ. C’est un prompt d’initialisation qui n’apparaît pas à l’utilisateur, mais qui influence sérieusement la suite. Par exemple, c’est similaire à ce que Microsoft ou OpenAI appliquent en amont de ChatGPT ou Bing pour « lui donner une personnalité » ou « le censurer ». Vous pouvez librement jouer là-dessus pour votre propre IA. Soit pour censurer son comportement, soit pour le libérer. C’est votre choix.

le paramètre -n 512 donne de la profondeur à la prédiction des tokens. En allongeant ou réduisant celui-ci, vous allez influencer la capacité de votre IA. Au risque de jouer sur le temps de calcul…

Le paramètre -t 32 (la valeur par défaut) permet de définir le nombre de threads générés par LLaMA pour ses calculs. Je recommande de l’aligner sur le nombre de threads/cores de votre processeur pour plus d’efficacité.