Ein AI Program Manager hält mehrere KI-Vorhaben so zusammen, dass daraus ein steuerbares Programm wird. Er verfolgt Status, Abhängigkeiten und Risiken über Fachbereiche hinweg, organisiert die Bewertung neuer Use Cases, bereitet Entscheidungen für das Management oder ein Portfolio Board vor und sorgt dafür, dass Governance, Compliance und Change-Management von Anfang an mitlaufen. Das Programm verantwortet er. Über das Portfolio entscheidet er nicht. Hier liest du, welche Aufgaben konkret dazugehören, wie sich die Rolle vom AI Portfolio Manager, AI Product Manager und Head of AI unterscheidet und worauf du bei Profil und Vertrag achten solltest.
Kurz gesagt
- Kernaufgabe: Der AI Program Manager koordiniert mehrere KI-Projekte, die auf ein gemeinsames Ziel einzahlen, und bringt Use Cases von der Idee in den Betrieb.
- Abgrenzung: Der Portfolio Manager wählt aus und priorisiert, der Program Manager setzt um und steuert, der Product Manager verantwortet ein einzelnes Produkt, der Project Manager ein einzelnes Projekt.
- Profil: gefragt sind Governance- und Stage-Gate-Erfahrung, KI-spezifisches Risiko- und Vendor-Management und die Fähigkeit, KI-Ergebnisse fachlich zu beurteilen.
- Rahmen in Deutschland: KI ist compliance-relevant. Betriebsrat, Vertraulichkeit und Haftung gehören von Beginn an in die Rollen- und Vertragsgestaltung.
- Besetzung: Entscheidend ist, ob jemand Fachwissen und Technologie verbindet und für das Ergebnis einsteht. Ein Lebenslauf allein zeigt das selten.
Inhaltsverzeichnis
- Was ein AI Program Manager im Unternehmen leistet
- Die Aufgaben im Detail
- AI Program Manager, Portfolio, Product und Project Manager im Vergleich
- Aufgaben eines AI Portfolio Managers
- Head of AI: Zuständigkeiten und was in den Vertrag gehört
- Kompetenzen und Erfahrung, die zählen
- Rahmenbedingungen in Deutschland
- Unsere Sicht: Die Rolle entscheidet über Pilot oder Produktion
- AI Program Manager mit Polydigital besetzen
- Häufige Fragen
- Quellen
Was ein AI Program Manager im Unternehmen leistet
Programmmanagement bedeutet: Mehrere Projekte werden gemeinsam gesteuert, weil sie zusammen ein übergeordnetes Ziel erreichen sollen. Im KI-Kontext heißt das zum Beispiel, dass ein Chatbot für den Kundenservice, eine automatisierte Dokumentenprüfung und ein Prognosemodell für die Disposition auf dieselbe Datenplattform, dieselben Freigabeprozesse und dieselben knappen Data-Science-Kapazitäten zugreifen. Ohne Programmsteuerung blockieren sich diese Vorhaben gegenseitig.
In einem praxisnahen Rollenmodell für KI im Unternehmen wird die AI-Programmleitung als die Rolle beschrieben, die alle laufenden KI-Vorhaben im Alltag zusammenhält, Status und Risiken bereichsübergreifend verfolgt, die Bewertung neuer Ideen organisiert und Entscheidungen des Portfolio Boards vorbereitet, ohne sie selbst zu treffen. Andere Beschreibungen sehen die Rolle stärker strategisch: als Schnittstelle zwischen Systemen, operativen Abläufen und teamübergreifender Strategie, die komplexe KI-Initiativen im Unternehmen orchestriert.
Welche Ausprägung du brauchst, hängt von deinem Reifegrad ab. Ein Unternehmen mit drei Pilotprojekten braucht vor allem Struktur und Takt. Ein Unternehmen mit zwanzig Use Cases in fünf Bereichen braucht zusätzlich jemanden, der Roadmap, Governance und Skalierung zusammendenkt.
Die Aufgaben im Detail
Programmsteuerung und Delivery
- Programmplan mit Meilensteinen, Abhängigkeiten und Kapazitäten aufsetzen und pflegen
- Status aller KI-Vorhaben bereichsübergreifend verfolgen und Engpässe früh sichtbar machen
- Übergänge von Discovery über Proof of Concept und Pilot bis in den produktiven Betrieb organisieren
- Ressourcenkonflikte zwischen Projekten klären, etwa bei Data Engineers, MLOps oder Fachexperten
- Budgets auf Programmebene überwachen und Abweichungen eskalieren
Intake, Bewertung und Priorisierung
- Neue Use-Case-Ideen aus den Fachbereichen aufnehmen und in ein einheitliches Bewertungsformat bringen
- Nutzen, Machbarkeit, Datenlage und Risiko vergleichbar machen
- Entscheidungsvorlagen für Management oder Portfolio Board vorbereiten
- In strategischen Ausprägungen die KI/ML-Roadmap mitgestalten und Initiativen nach Marktpotenzial, Impact und Machbarkeit priorisieren
Governance, Compliance und Risiko
Hier unterscheidet sich der AI Program Manager am deutlichsten vom klassischen Programmmanager. Zu seinen Aufgaben zählen die Implementierung von KI-Governance unter Berücksichtigung von Ethik und Compliance, das Change-Management für unternehmensweite Rollouts und das Zusammenspiel von menschlichen Arbeitsabläufen, KI-Agenten und technischen Systemen.
Konkret:
- Stage Gates definieren: Wann darf ein Modell vom Pilot in den Betrieb?
- Release-Governance etablieren, inklusive Freigaben durch Datenschutz, Informationssicherheit und Fachbereich
- Risiko-Stakeholder einbinden und Eskalationspfade festlegen
- Menschliche Aufsicht über KI-Ergebnisse im Prozess verankern. Was der EU AI Act dazu verlangt, erklären wir im Beitrag zu Human Oversight bei KI.
- Mit Model-Risk-Funktionen zusammenarbeiten, wo Modelle regulatorisch relevant sind. Welche Rollen das betrifft, zeigt unser Überblick zu Model Risk Management in der KI.
Vendor- und Partnermanagement
Viele KI-Vorhaben stützen sich auf externe Modelle, Plattformen oder Dienstleister. Der AI Program Manager koordiniert diese Partner, achtet auf Abhängigkeiten und bewertet KI-spezifische Lieferantenrisiken: Datenverwendung, Modellwechsel, Verfügbarkeit, Vertragsbedingungen.
Change, Enablement und Kommunikation
- Fachbereiche auf neue Arbeitsweisen vorbereiten
- Schulungskonzepte mit HR und Enablement abstimmen
- Regelmäßiges Reporting an Geschäftsführung, IT-Leitung und Gremien
- Erfolge messbar machen: Welcher Use Case liefert welchen Wert?
AI Program Manager, Portfolio, Product und Project Manager im Vergleich
Die vier Rollen werden in Stellenanzeigen oft vermischt. Für deine Organisation lohnt sich eine klare Trennung, weil jede Rolle eine andere Frage beantwortet.
| Rolle | Leitfrage | Verantwortung | Typischer Horizont | Entscheidet |
|---|---|---|---|---|
| AI Portfolio Manager | Welche KI-Vorhaben machen wir überhaupt? | Auswahl, Priorisierung, Ausrichtung an der KI-Strategie | strategisch, mehrjährig | bereitet Portfolioentscheidungen mit dem Top-Management vor |
| AI Program Manager | Wie bringen wir mehrere Vorhaben gemeinsam ins Ziel? | Steuerung, Abhängigkeiten, Governance, Change | Programmlaufzeit, oft ein bis mehrere Jahre | über Umsetzung und Eskalation, nicht über das Portfolio |
| AI Product Manager | Was soll dieses KI-Produkt für Nutzer leisten? | Produktvision, Anforderungen, Nutzen, Lebenszyklus | dauerhaft, solange das Produkt lebt | über Produkt-Roadmap und Prioritäten im Backlog |
| AI Project Manager | Liefern wir dieses Projekt in Zeit, Budget und Qualität? | einzelnes Projekt mit klarem Ende | Wochen bis Monate | über Projektplanung und Ressourcen im Projekt |
In kleineren Organisationen übernimmt eine Person oft zwei dieser Rollen, meist Program und Portfolio. Das funktioniert, solange klar ist, wer am Ende entscheidet. Wie Product Manager in KI-Teams arbeiten und wie du die Rolle besetzt, beschreiben wir ausführlich im Beitrag AI Product Manager einstellen.
Aufgaben eines AI Portfolio Managers
Der AI Portfolio Manager sitzt eine Ebene über dem Programm. Er beantwortet die Frage, in welche KI-Vorhaben ein Unternehmen investiert und in welche nicht. Eine Stellenausschreibung der Landesbank Baden-Württemberg beschreibt die Rolle so: Der Portfolio Manager richtet die KI-Portfoliostrategie an definierten KI-Zielbildern aus, steuert die Auswahl von Use Cases von der Bewertung bis zur Priorisierung und ist Sparringspartner des Top-Managements für Portfolioentscheidungen.
Typische Aufgaben:
- Bewertungskriterien für KI-Vorhaben festlegen: Wertbeitrag, strategische Passung, Risiko, Datenverfügbarkeit
- Portfolio regelmäßig überprüfen, Vorhaben stoppen, zusammenlegen oder beschleunigen
- Budgetverteilung über Bereiche hinweg vorschlagen
- Portfolio Board oder KI-Gremium vorbereiten und moderieren
Warum ein solches Gremium sinnvoll ist, bringt das bereits zitierte Rollenmodell auf den Punkt: Ein Portfolio Board aus Fachbereichen, IT, Daten, Risiko und Finanzen verhindert, dass sich der mächtigste Bereich durchsetzt statt des sinnvollsten Vorhabens. Wie du ein solches Gremium aufbaust, liest du in unserem Beitrag zum KI-Beirat als Steuerungsinstrument.
Head of AI: Zuständigkeiten und was in den Vertrag gehört
Über Program und Portfolio Manager steht in vielen Organisationen ein Head of AI oder ein (fractional) Chief AI Officer. Eine Ausschreibung für die Leitung Künstliche Intelligenz beschreibt den Kern der Rolle: strategischer und operativer Ausbau der KI-Aktivitäten, Entwicklung der KI-Roadmap, Steuerung der Umsetzung und Aufbau von Governance-, Compliance- und Reporting-Prozessen.
Der Head of AI verantwortet also das Ganze. Der Program Manager ist sein wichtigstes Instrument, um die Strategie in den Alltag zu übersetzen. Was die Rolle im Detail ausmacht und wie ein sauberer Auswahlprozess aussieht, beschreiben wir im Beitrag Head of AI einstellen.
Regelungen, die du im Arbeitsvertrag klären solltest
Neben den üblichen Bestandteilen eines Führungskräftevertrags lohnt sich bei KI-Rollen ein genauer Blick auf diese Punkte:
- Aufgaben und Befugnisse: Budgethoheit, Entscheidungsrechte über Tools und Anbieter, Verhältnis zu IT-Leitung, Datenschutz und Compliance
- KI-Nutzung: Arbeitsverträge sollten nach Einschätzung von Arbeitsrechtlern konkrete Verbots- und Pflichtenkataloge zur KI-Nutzung enthalten
- Vertraulichkeit: Geheimhaltungsvereinbarungen an den Umgang mit Unternehmensdaten in KI-Systemen anpassen
- Berichtslinie und Reporting: An wen berichtet die Rolle, in welchem Takt, mit welchen Kennzahlen?
- Ziele und variable Vergütung: messbare Ziele, die an Wertbeitrag und Governance geknüpft sind, nicht nur an die Anzahl gestarteter Piloten
- Nachfolge und Wissenssicherung: Dokumentationspflichten und Übergaberegeln, damit Wissen bei einem Wechsel im Unternehmen bleibt
Für die konkrete Formulierung, insbesondere bei Haftungs-, Wettbewerbs- und Geheimhaltungsklauseln, ziehst du eine Fachanwältin oder einen Fachanwalt für Arbeitsrecht hinzu. Das gilt auch für die gesetzlichen Pflichtangaben im Vertrag.
Kompetenzen und Erfahrung, die zählen
Ein guter AI Program Manager ist kein Data Scientist, der nebenbei plant, und kein Projektmanager, der KI aus Präsentationen kennt. Er verbindet beides. Woran sich die Kompetenzen festmachen lassen, zeigt zum Beispiel die CTPM-AI-Zertifizierung: Sie prüft Planung, Governance und Messung von KI-Initiativen, darunter Use-Case-Auswahl, Stage-Gate- und Release-Governance, regulatorische Compliance sowie KI-spezifisches Risiko- und Vendor-Management.
Im Gespräch erkennst du starke Kandidatinnen und Kandidaten daran, dass sie erklären können, wie sie eine KI-Idee in gesteuerte Arbeit übersetzen: mit messbarer Wertdefinition, eingebundenen Risiko-Stakeholdern und klaren Eskalationspfaden.
Fachliche Kompetenzen
- Programm- und Portfoliomethoden, klassisch wie agil, inklusive skalierter Ansätze
- Grundverständnis von Machine Learning, generativer KI, Datenpipelines und MLOps
- Erfahrung mit Governance-Prozessen, Datenschutz und regulatorischen Anforderungen
- Business-Case-Rechnung und Wertmessung für KI-Vorhaben
Persönliche Kompetenzen
- Moderationsstärke zwischen Fachbereich, IT, Daten und Compliance
- Entscheidungsfreude bei unvollständiger Informationslage
- Urteilsvermögen: KI-Ergebnisse kritisch einschätzen statt sie weiterzureichen
- Verantwortung für das Ergebnis übernehmen, auch wenn ein Modell nicht liefert
Typische Werdegänge
→ IT-Programmleitung mit Schwerpunkt Daten oder Plattformen
→ Beratungshintergrund mit Digitalisierungs- oder Analytics-Programmen
→ Product Owner oder Data Product Manager, der in die Programmverantwortung gewachsen ist
→ Technical Program Manager aus Software- oder Cloud-Umfeldern
Rahmenbedingungen in Deutschland
Wer eine KI-Schlüsselrolle besetzt, setzt auch einen Teil der Compliance-Organisation auf. Drei Punkte solltest du von Beginn an einplanen.
Compliance-Management: Geschäftsleitungen sind zur Einrichtung eines angemessenen Compliance-Management-Systems verpflichtet, und KI ist compliance-relevant. Der AI Program Manager braucht deshalb eine klare Schnittstelle zu Compliance und Datenschutz.
Betriebsrat: Führt ein Unternehmen eigene KI-Lösungen ein, ist der Betriebsrat frühzeitig einzubinden, auch bei Auswahlrichtlinien und Schulungskonzepten. Welche Rollen du dafür zuerst besetzen solltest, zeigt unser Beitrag zur KI-Einführung mit Betriebsrat.
Haftung: Die EU-Mitgliedstaaten müssen die neue Produkthaftungsrichtlinie bis zum 9. Dezember 2026 umsetzen. Sie erfasst Software und KI-Systeme ausdrücklich als Produkte, deren Hersteller verschuldensunabhängig haften. Zudem können Aussagen von KI-Chatbots einem Unternehmen zugerechnet werden. KI-Ergebnisse, die in den Geschäftsverkehr gelangen, sollten deshalb menschlich auf Plausibilität geprüft werden. Genau diese Prüfschritte verankert ein guter AI Program Manager in den Stage Gates. Ob deine Lösungen betroffen sind, klärst du mit deiner Rechtsabteilung oder einer auf IT-Recht spezialisierten Kanzlei.
Unsere Sicht: Die Rolle entscheidet über Pilot oder Produktion
Wir sehen in vielen Unternehmen dasselbe Muster: Es gibt genug KI-Ideen, oft auch erste Piloten. Was fehlt, ist die Person, die daraus ein Programm macht, das im Betrieb ankommt.
Deshalb besetzen wir den AI Program Manager nicht nach Schlagworten im Lebenslauf. Wir prüfen, ob ein Talent zwischen Fachwissen und Technologie zu Hause ist, KI souverän einsetzt, ihre Ergebnisse beurteilt und für das Resultat einsteht. Genau diese Haltung trennt einen Koordinator von jemandem, der ein Programm wirklich führt.
Jedes Talent interviewen wir persönlich. In der Endauswahl durchläuft es eine EFPA-zertifizierte Eignungsdiagnostik, die ein zertifizierter Berater bei uns auswertet. Du bekommst wenige, gründlich geprüfte Profile statt eines Stapels, den du selbst sortieren musst.
Und wenn eine Schlüsselposition plötzlich frei wird, denken wir weiter als bis zur nächsten Suche: Wir verbinden Suche, Überbrückung und Wissenssicherung, damit dein KI-Programm nicht stillsteht.
Ingmar
AI Program Manager mit Polydigital besetzen
Du willst einen AI Program Manager, AI Portfolio Manager oder Head of AI einstellen, in Festanstellung, interim oder fractional? Polydigital besetzt spezialisierte Rollen der KI-Transformation in der DACH-Region, von der Rollenberatung über die Direktansprache bis zur Auswahl. Auf Wunsch bauen wir einen geprüften Kandidatenpool für deine künftigen Bedarfe auf.
→ Data- und AI-Experten finden
→ Programm Manager und IT-Projektleitung finden
Wenn du erst klären willst, welche Rolle du in welcher Reihenfolge brauchst, hilft dir unser Stellenplan für dein AI Team.
Häufige Fragen
Was ist der Unterschied zwischen AI Program Manager und AI Project Manager?
Der AI Project Manager verantwortet ein einzelnes Vorhaben mit klarem Ende, Budget und Ziel. Der AI Program Manager steuert mehrere solcher Projekte gemeinsam, weil sie auf ein übergeordnetes Ziel einzahlen und voneinander abhängen. Er kümmert sich zusätzlich um Governance, Change und die Abstimmung über Fachbereiche hinweg.
Braucht ein AI Program Manager Programmierkenntnisse?
Er muss nicht selbst Modelle entwickeln. Er sollte aber verstehen, wie Machine Learning, generative KI und Datenpipelines funktionieren, damit er Aufwände, Risiken und Ergebnisse realistisch einschätzen kann. Ohne dieses Verständnis bleibt er Terminverwalter.
Ab wann lohnt sich ein eigener AI Program Manager?
Sobald mehrere KI-Vorhaben parallel laufen, auf gemeinsame Daten oder Teams zugreifen und in mehreren Bereichen wirken sollen. Spätestens wenn Piloten nicht in den Betrieb kommen oder sich Prioritäten ständig verschieben, fehlt die Programmsteuerung. Als Einstieg eignet sich auch eine Interim- oder Fractional-Besetzung.
An wen berichtet ein AI Program Manager?
Meist an den Head of AI, den CIO oder die Geschäftsführung, je nachdem, wo die KI-Verantwortung im Unternehmen liegt. Zusätzlich berichtet er regelmäßig an ein Portfolio Board oder KI-Gremium, dessen Entscheidungen er vorbereitet.
Quellen
- B7. Rollen und Verantwortlichkeiten für KI im Unternehmen
- The Great PM Reboot: Product, Program, and Project Roles
- What is an AI Program Manager?
- (Senior) AI Portfoliomanager (m/w/d), Landesbank Baden-Württemberg
- Head of AI / Leitung Künstliche Intelligenz (m/w/d)
- Schatten-KI im Unternehmen, Pöppel Rechtsanwälte
- AI Technical Program Manager Certification, TPM Institute
- AI Project Manager Job Description & Hiring Guide for 2026
- KI und Haftung: Wer haftet, wenn die KI Fehler macht?