Qiskit Code Assistant
Die Qiskit Code Assistant LLMs sollen Quantencomputing für neue Qiskit-Nutzer zugänglicher machen und das Programmiererlebnis für bestehende Nutzer verbessern. Er wurde mit Millionen von Text-Tokens aus dem Qiskit SDK, jahrelangen Qiskit-Code-Beispielen und IBM Quantum®-Funktionen trainiert. Qiskit Code Assistant kann deinen Quantum-Entwicklungsworkflow unterstützen, indem er LLM-generierte Vorschläge auf Basis von IBM Granite und anderen Open-Source-Modellen anbietet, die die neuesten Funktionen und Features von IBM® beinhalten.
- Möchtest du direkt zu den Installationsanweisungen springen? Gehe zum Abschnitt Qiskit Code Assistant installieren.
- Wenn du Feedback hast oder das Entwicklerteam kontaktieren möchtest, nutze den Qiskit Slack Workspace-Kanal oder die zugehörigen öffentlichen GitHub-Repositories.
Das Large Language Model (LLM) hinter Qiskit Code Assistant
Um Code-Vorschläge bereitzustellen, verwendet Qiskit Code Assistant ein Large Language Model (LLM). Konkret basiert Qiskit Code Assistant derzeit auf dem Modell mistral-small-3.2-24b-qiskit, das auf dem Mistral-Small-3.2-24B-Qiskit-Modell aufbaut. Das Modell mistral-small-3.2-24b-qiskit verbessert die Code-Generierungsfähigkeiten des Modells Mistral-Small-3.2-24B-Instruct-2506 für Qiskit durch erweitertes Pretraining und Fine-Tuning auf hochwertigen Qiskit-Daten sowie Python-Commits und Chat. Weitere Informationen zur Mistral-AI-Modellfamilie findest du in der Mistral-AI-Dokumentation. Weitere Details zu den .*-qiskit-Modellen findest du unter Qiskit Code Assistant: Training LLMs for generating Quantum Computing Code.
Unsere auf Qiskit spezialisierten LLMs sind auch als Open-Source-Modelle verfügbar. Alle verfügbaren Modelle findest du unter https://huggingface.co/Qiskit.
Die Qiskit HumanEval- und Qiskit HumanEval Hard-Benchmarks
Um das Modell mistral-small-3.2-24b-qiskit und andere Modelle zu testen, haben wir mit Qiskit Advocates und Experten zusammengearbeitet, um ausführungsbasierte Benchmarks namens Qiskit HumanEval (QHE) und Qiskit HumanEval Hard (QHE Hard) zu entwickeln und auf den Modellen auszuführen. Diese Benchmarks ähneln HumanEval und enthalten mehrere anspruchsvolle Code-Aufgaben, die alle auf den offiziellen Qiskit-Bibliotheken basieren.
Die Benchmarks bestehen aus etwa 150 Tests, von denen jeder aus einer Funktionsdefinition besteht, gefolgt von einem Docstring, der die Aufgabe beschreibt, die das Modell lösen soll. Jedes Beispiel enthält außerdem eine Referenz-Musterlösung sowie Unit-Tests zur Überprüfung der Korrektheit der generierten Lösungen. Es gibt drei Schwierigkeitsstufen für Tests: einfach, mittel und schwierig. Der Qiskit HumanEval Hard-Benchmark ist eine Variante des Qiskit HumanEval-Benchmarks, entfernt jedoch Informationen zu Code-Imports, sodass das LLM die richtigen Methoden- oder Klassen-Imports selbst herausfinden muss. Diese Änderung macht den Datensatz laut unseren Tests und ersten Ergebnissen deutlich anspruchsvoller für LLMs.
Die Datensätze für Qiskit HumanEval und Qiskit HumanEval Hard sind auf diesen Websites verfügbar: Qiskit HumanEval und Qiskit HumanEval. Du kannst zur Weiterentwicklung dieser Benchmarks im GitHub-Repository beitragen.
Qiskit Code Assistant installieren
Erfahre, wie du eines der Qiskit Code Assistant-Modelle auf deinem lokalen Rechner installieren, konfigurieren und verwenden kannst.
Von der Hugging Face-Website herunterladen
Folge diesen Schritten, um ein beliebiges Qiskit Code Assistant-Modell von der Hugging Face-Website herunterzuladen:
- Navigiere zur gewünschten Qiskit-Modellseite auf Hugging Face.
- Gehe zum Tab Files and Versions und lade die Safetensors- oder GGUF-Modelldateien herunter.
Mit der Hugging Face CLI herunterladen
Um eines der verfügbaren Qiskit Code Assistant-Modelle mit der Hugging Face CLI herunterzuladen, folge diesen Schritten:
-
Installiere die Hugging Face CLI
-
Melde dich bei deinem Hugging Face-Konto an
huggingface-cli login -
Lade das gewünschte Modell aus der obigen Liste herunter
huggingface-cli download <HF REPO NAME> <MODEL PATH> --local-dir <LOCAL PATH>
Qiskit Code Assistant-Modelle lokal über Ollama manuell bereitstellen
Es gibt mehrere Möglichkeiten, das heruntergeladene Qiskit Code Assistant-Modell bereitzustellen und damit zu interagieren. Diese Anleitung zeigt die Verwendung von Ollama wie folgt: entweder mit der Ollama-Anwendung über die Hugging Face Hub-Integration oder ein lokales Modell, oder mit dem llama-cpp-python-Paket.
Ollama-Anwendung verwenden
Die Ollama-Anwendung bietet eine einfache Lösung, um LLMs lokal auszuführen. Sie ist benutzerfreundlich und verfügt über eine CLI, die den gesamten Einrichtungsprozess, die Modellverwaltung und die Interaktion unkompliziert gestaltet. Sie eignet sich ideal für schnelle Experimente und für Nutzer, die möglichst wenig technischen Aufwand betreiben möchten.
Ollama installieren
-
Lade die Ollama-Anwendung herunter
-
Installiere die heruntergeladene Datei
-
Starte die installierte Ollama-Anwendung
infoDie Anwendung läuft erfolgreich, wenn das Ollama-Symbol in der Menüleiste des Desktops erscheint. Du kannst auch überprüfen, ob der Dienst läuft, indem du
http://localhost:11434/aufrufst. -
Probiere Ollama in deinem Terminal aus und starte Modelle. Beispiel:
ollama run hf.co/Qiskit/Qwen2.5-Coder-14B-Qiskit
Ollama mit der Hugging Face Hub-Integration einrichten
Die Ollama/Hugging Face Hub-Integration ermöglicht die Interaktion mit auf dem Hugging Face Hub gehosteten Modellen, ohne eine neue Modelfile erstellen oder die GGUF- oder Safetensors-Dateien manuell herunterladen zu müssen. Die Standard-template- und params-Dateien sind bereits für das Modell auf dem Hugging Face Hub enthalten.
-
Stelle sicher, dass die Ollama-Anwendung läuft.
-
Gehe zur gewünschten Modellseite und kopiere die URL. Zum Beispiel: https://huggingface.co/Qiskit/Qwen2.5-Coder-14B-Qiskit-GGUF.
-
Führe in deinem Terminal den folgenden Befehl aus:
ollama run hf.co/Qiskit/Qwen2.5-Coder-14B-Qiskit
Du kannst das Modell hf.co/Qiskit/Qwen2.5-Coder-14B-Qiskit oder eines der anderen aktuell empfohlenen offiziellen GGUF-Modelle hf.co/Qiskit/mistral-small-3.2-24b-qiskit-GGUF oder hf.co/Qiskit/granite-3.3-8b-qiskit-GGUF verwenden.
Ollama mit einem manuell heruntergeladenen Qiskit Code Assistant-GGUF-Modell einrichten
Wenn du ein GGUF-Modell wie https://huggingface.co/Qiskit/Qwen2.5-Coder-14B-Qiskit-GGUF manuell heruntergeladen hast und mit verschiedenen Templates und Parametern experimentieren möchtest, kannst du diese Schritte ausführen, um es in deine lokale Ollama-Anwendung zu laden.
-
Erstelle eine
Modelfilemit folgendem Inhalt und aktualisiere<PATH-TO-GGUF-FILE>mit dem tatsächlichen Pfad zu deinem heruntergeladenen Modell.FROM <PATH-TO-GGUF-FILE>TEMPLATE """{{ if .System }}System:{{ .System }}{{ end }}{{ if .Prompt }}Question:{{ .Prompt }}{{ end }}Answer:```python{{ .Response }}"""PARAMETER stop "Question:"PARAMETER stop "Answer:"PARAMETER stop "System:"PARAMETER stop "```"PARAMETER temperature 0PARAMETER top_k 1 -
Führe den folgenden Befehl aus, um eine benutzerdefinierte Modellinstanz basierend auf der
Modelfilezu erstellen.ollama create Qwen2.5-Coder-14B-Qiskit -f ./path-to-model-filehinweisDieser Vorgang kann einige Zeit dauern, da Ollama die Modelldatei einlesen, die Modellinstanz initialisieren und entsprechend den angegebenen Spezifikationen konfigurieren muss.
Das manuell heruntergeladene Qiskit Code Assistant-Modell in Ollama ausführen
Nachdem das Modell Qwen2.5-Coder-14B-Qiskit in Ollama eingerichtet wurde, führe den folgenden Befehl aus, um das Modell zu starten und im Terminal damit zu interagieren (im Chat-Modus).
ollama run Qwen2.5-Coder-14B-Qiskit
Nützliche Befehle:
ollama list- Modelle auf deinem Computer auflistenollama rm Qwen2.5-Coder-14B-Qiskit- Das Modell löschenollama show Qwen2.5-Coder-14B-Qiskit- Modellinformationen anzeigenollama stop Qwen2.5-Coder-14B-Qiskit- Ein aktuell laufendes Modell stoppenollama ps- Auflisten, welche Modelle aktuell geladen sind
Qiskit Code Assistant-Modelle lokal über das llama-cpp-python-Paket manuell bereitstellen
Eine Alternative zur Ollama-Anwendung ist das llama-cpp-python-Paket, eine Python-Bindung für llama.cpp. Es bietet mehr Kontrolle und Flexibilität beim lokalen Ausführen des GGUF-Modells und eignet sich ideal für Nutzer, die das lokale Modell in ihre Workflows und Python-Anwendungen integrieren möchten.
- Installiere
llama-cpp-python - Interagiere mit dem Modell aus deiner Anwendung heraus mithilfe von
llama_cpp. Beispiel:
from llama_cpp import Llama
model_path = <PATH-TO-GGUF-FILE>
model = Llama(
model_path,
seed=17,
n_ctx=10000,
n_gpu_layers=37, # to offload in gpu, but put 0 if all in cpu
)
input = 'Generate a quantum circuit with 2 qubits'
raw_pred = model(input)["choices"][0]["text"]
Du kannst dem Modell auch Textgenerierungsparameter hinzufügen, um die Inferenz anzupassen:
generation_kwargs = {
“max_tokens”: 512,
“echo”: False, # Echo the prompt in the output
“top_k”: 1
}
raw_pred = model(input, **generation_kwargs)[“choices”][0][“text”]
Qiskit Code Assistant-Modelle lokal über llama.cpp manuell bereitstellen
Die llama.cpp-Bibliothek verwenden
Eine weitere Alternative ist die Verwendung von llama.cpp, einer Open-Source-Bibliothek für LLM-Inferenz auf der CPU mit minimalem Einrichtungsaufwand.
Sie bietet Low-Level-Kontrolle über die Modellausführung und wird typischerweise über die Befehlszeile ausgeführt, wobei auf eine lokale GGUF-Modelldatei verwiesen wird.
Es gibt mehrere Möglichkeiten, llama.cpp auf deinem Rechner zu installieren:
- Installiere llama.cpp über brew, nix oder winget
- Ausführen mit Docker: Siehe die Docker-Dokumentation des
llama.cpp-Teams - Lade vorkompilierte Binärdateien von der Releases-Seite herunter
- Aus dem Quellcode kompilieren durch Klonen des Repositories
Nach der Installation kannst du llama.cpp verwenden, um im Konversationsmodus mit GGUF-Modellen zu interagieren:
# Use a local model file
llama-cli -m my_model.gguf -cnv
# Or download and run a model directly from Hugging Face
llama-cli -hf Qiskit/Qwen2.5-Coder-14B-Qiskit-GGUF -cnv
Du kannst auch einen OpenAI-kompatiblen API-Server für das Modell starten:
llama-server -hf Qiskit/Qwen2.5-Coder-14B-Qiskit-GGUF
Erweiterte Parameter
Mit dem Programm llama-cli kannst du die Modellgenerierung über Befehlszeilenoptionen steuern. Beispielsweise kannst du einen initialen „System”-Prompt mit dem Flag -p/--prompt angeben. Im Konversationsmodus (-cnv) fungiert dieser initiale Prompt als Systemnachricht. Andernfalls kannst du einfach eine gewünschte Anweisung deinem Prompt-Text voranstellen. Du kannst auch Sampling-Parameter anpassen – zum Beispiel: Temperatur (--temp), Top-k (--top-k), Top-p (--top-p), Wiederholungsstrafe (--repeat-penalty) und den zu verwendenden Seed (--seed). Das folgende Beispiel zeigt einen Aufruf mit diesen Optionen:
llama-cli -hf Qiskit/Qwen2.5-Coder-14B-Qiskit-GGUF \
-p “You are a friendly assistant.” -cnv \
--temp 0.7 \
--top-k 50 \
--top-p 0.95 \
--repeat-penalty 1.1 \
--seed 42
Um die ordnungsgemäße Funktionalität unserer Qiskit-Modelle sicherzustellen, empfehlen wir die Verwendung des in unseren HF-GGUF-Repositories bereitgestellten System-Prompts: System-Prompt für mistral-small-3.2-24b-qiskit-GGUF, Qwen2.5-Coder-14B-Qiskit-GGUF, granite-3.3-8b-qiskit-GGUF und granite-3.2-8b-qiskit-GGUF.
Continue manuell verbinden (VS Code)
Continue (VS Code)
1. Erweiterung installieren
Öffne VS Code, gehe zu Erweiterungen (Cmd+Shift+X), suche nach Continue und installiere es.
2. Konfiguration öffnen
Klicke auf das Continue-Symbol in der Seitenleiste, dann auf das Zahnrad-Symbol, oder öffne die Befehlspalette (Cmd+Shift+P) und führe Continue: Open Config File aus.
Damit öffnet sich ~/.continue/config.yaml (oder config.json in älteren Versionen).
3. Modell konfigurieren
Füge folgendes zu config.yaml hinzu:
models:
- name: Qiskit Code Assistant
provider: ollama
model: mistral-small-3.2-24b-qiskit
apiBase: http://localhost:11434
Damit wird das Qiskit-Modell im Chat-Panel (Seitenleistengespräche, Inline-Q&A) und für Inline-Bearbeitungs-Befehle verfügbar.
4. Testen
- Chat: Öffne das Continue-Panel in der Seitenleiste und stelle eine Frage (z. B. „How do I create a parameterized circuit in Qiskit?”)
- Inline-Bearbeitung: Wähle einen Codeblock aus, drücke
Cmd+I(Mac) oderCtrl+I(Linux/Windows)
Jupyter AI manuell verbinden (JupyterLab)
Jupyter AI (JupyterLab)
Hinweis: Diese Anleitung bezieht sich auf Jupyter AI v2.x.
1. Jupyter AI und den Ollama-Provider installieren
pip install “jupyter-ai<3” langchain-ollama
Der Pin ”jupyter-ai<3” stellt sicher, dass du v2.x erhältst. Das Paket langchain-ollama ist erforderlich, damit Jupyter AI Ollama als Provider erkennt. Ohne es wird Ollama im Einstellungsbereich nicht angezeigt.
Starte dann JupyterLab neu.
2. Das Chat-Modell konfigurieren
Öffne JupyterLab und klicke auf das Chat-Symbol in der linken Seitenleiste. Im Einstellungsbereich:
- Wähle unter Language model den Provider Ollama aus.
- Gib
mistral-small-3.2-24b-qiskitals Modellnamen ein. - Für Ollama wird kein API-Schlüssel benötigt (Feld leer lassen).
- Klicke auf den Zurück-Pfeil, um zu chatten.
3. Den %%ai-Magic-Befehl verwenden
Mit dem %%ai-Magic kannst du das Modell direkt in Notebook-Zellen abfragen.
%load_ext jupyter_ai_magics
Dann in einer Zelle:
%%ai ollama:mistral-small-3.2-24b-qiskit
Write a function that implements Grover's algorithm using Qiskit
4. Benutzerdefinierten Ollama-Host (optional)
Standardmäßig verbindet sich Jupyter AI mit http://127.0.0.1:11434. Wenn dein Ollama-Server unter einer anderen Adresse oder einem anderen Port läuft:
In der Chat-Benutzeroberfläche: Setze das Feld „Base API URL” im KI-Einstellungsbereich.
OpenCode manuell verbinden (Terminal)
OpenCode (Terminal)
1. OpenCode installieren
curl -fsSL https://opencode.ai/install | bash
2. Das Qiskit-Modell konfigurieren
Erstelle eine opencode.json-Datei im Stammverzeichnis deines Projekts (oder ~/.config/opencode/opencode.json für eine globale Konfiguration):
{
“$schema”: “https://opencode.ai/config.json”,
“provider”: {
“ollama”: {
“npm”: “@ai-sdk/openai-compatible”,
“name”: “Ollama (local)”,
“options”: {
“baseURL”: “http://localhost:11434/v1”
},
“models”: {
“mistral-small-3.2-24b-qiskit”: {
“name”: “Qiskit Code Assistant”
}
}
}
}
}
3. Modell auswählen
Starte OpenCode in deinem Projektverzeichnis:
opencode
Führe im TUI den Befehl /models aus und wähle Qiskit Code Assistant aus der Liste.
4. Testen
Stelle direkt im Chat eine Frage, zum Beispiel: „Define a Bell circuit and run it using QiskitRuntimeService”
Verfügbare Modelle
Aktuelle Modelle
Dies sind die neuesten empfohlenen Modelle für den Einsatz mit Qiskit Code Assistant:
- Qiskit/mistral-small-3.2-24b-qiskit - Released October 2025
- Qiskit/Qwen2.5-Coder-14B-Qiskit - Released June 2025
- qiskit/granite-3.3-8b-qiskit - Released June 2025
- qiskit/granite-3.2-8b-qiskit - Released June 2025
GGUF-Modelle (empfohlen für persönliche Umgebungen/Laptops)
GGUF-Formatmodelle sind für den lokalen Einsatz optimiert und erfordern weniger Rechenressourcen:
-
mistral-small-3.2-24b-qiskit-GGUF – Released October 2025
Trained with Qiskit data up to version 2.1 -
Qiskit/Qwen2.5-Coder-14B-Qiskit-GGUF – Released June 2025
Trained with Qiskit data up to version 2.0 -
qiskit/granite-3.3-8b-qiskit-GGUF – Released June 2025
Trained with Qiskit data up to version 2.0 -
qiskit/granite-3.2-8b-qiskit-GGUF – Released June 2025
Trained with Qiskit data up to version 2.0
Die Open-Source-Qiskit-Code-Assistant-Modelle sind im safetensors- oder GGUF-Dateiformat verfügbar und können wie unten beschrieben von Hugging Face heruntergeladen werden.
Für das Training verwendete Qiskit-Versionen
| Modell | Benchmark-Metriken | Veröffentlichungsdatum | Trainiert mit Qiskit-Version | |||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| QiskitHumanEval-Hard | QiskitHumanEval | HumanEval | ASDiv | MathQA | SciQ | MBPP | IFEval | CrowsPairs (English) | TruthfulQA (MC1 acc) | |||
| mistral-small-3.2-24b-qiskit | 32.45 | 47.02 | 77.49 | 3.77 | 49.68 | 97.50 | 64.00 | 48.44 | 67.08 | 39.41 | January 2026 | 2.2 |
| Qwen2.5-Coder-14B-Qiskit | 25.17 | 49.01 | 91.46 | 4.21 | 53.90 | 97.00 | 77.60 | 49.64 | 65.18 | 37.82 | June 2025 | 2.0 |
| granite-3.3-8b-qiskit | 14.57 | 27.15 | 62.80 | 0.48 | 38.66 | 93.30 | 52.40 | 59.71 | 59.75 | 39.05 | June 2025 | 2.0 |
| granite-3.2-8b-qiskit | 9.93 | 24.50 | 57.32 | 0.09 | 41.41 | 96.30 | 51.80 | 60.79 | 66.79 | 40.51 | June 2025 | 2.0 |
| granite-8b-qiskit-rc-0.10 | 15.89 | 38.41 | 59.76 | — | — | — | — | — | — | — | February 2025 | 1.3 |
| granite-8b-qiskit | 17.88 | 44.37 | 53.66 | — | — | — | — | — | — | — | November 2024 | 1.2 |
Hinweis: Alle in der Benchmark-Tabelle aufgeführten Modelle wurden mit dem jeweiligen System-Prompt bewertet, der in ihrem Hugging Face-Modell definiert ist.
Veraltete Modelle
Diese Modelle werden nicht mehr aktiv gepflegt, bleiben aber verfügbar:
- qiskit/granite-8b-qiskit-rc-0.10 - Released February 2025 (deprecated)
- qiskit/granite-8b-qiskit - Released November 2024 (deprecated)
Weitere Informationen und Zitate
Um mehr über Qiskit Code Assistant, die Qiskit HumanEval- oder Qiskit HumanEval Hard-Benchmarks zu erfahren und sie in deinen wissenschaftlichen Publikationen zu zitieren, findest du hier die empfohlenen Zitate:
@misc{2405.19495,
Author = {Nicolas Dupuis and Luca Buratti and Sanjay Vishwakarma and Aitana Viudes Forrat and David Kremer and Ismael Faro and Ruchir Puri and Juan Cruz-Benito},
Title = {Qiskit Code Assistant: Training LLMs for generating Quantum Computing Code},
Year = {2024},
Eprint = {arXiv:2405.19495},
}
@misc{2406.14712,
Author = {Sanjay Vishwakarma and Francis Harkins and Siddharth Golecha and Vishal Sharathchandra Bajpe and Nicolas Dupuis and Luca Buratti and David Kremer and Ismael Faro and Ruchir Puri and Juan Cruz-Benito},
Title = {Qiskit HumanEval: An Evaluation Benchmark For Quantum Code Generative Models},
Year = {2024},
Eprint = {arXiv:2406.14712},
}
@misc{2508.20907,
Author = {Nicolas Dupuis and Adarsh Tiwari and Youssef Mroueh and David Kremer and Ismael Faro and Juan Cruz-Benito},
Title = {Quantum Verifiable Rewards for Post-Training Qiskit Code Assistant},
Year = {2025},
Eprint = {arXiv:2508.20907},
}