KI im Betrieb: 7 Regeln, damit der Chef das Steuer behält (zu Chefgeflüster #42)

Ein Mitarbeiter kopiert ein Angebot samt Kundenadresse ins kostenlose ChatGPT, weil es schneller geht. Der Chef erfährt davon nie. Genau dort beginnt das Risiko, und sieben einfache Regeln fangen es auf.

Mit ihnen nutzen Sie KI, ohne die Kontrolle abzugeben. Jede Regel endet mit Handgriffen, die Sie noch diese Woche erledigen können. Anlass ist Folge #42 von „Chefgeflüster by Lars und Silvio“: Alexander Weipprecht, Geschäftsführer von Provimedia, war dort zu Gast, zu hören auf Spotify.

Die Regeln auf einen Blick

1. Keine Kundendaten ins kostenlose ChatGPT.
2. Prüfen Sie KI-Antworten, bevor sie zum Kunden gehen.
3. Rechnen Sie mit Pannen beim Anbieter und seien Sie vorbereitet.
4. Fördern Sie die KI-Kompetenz Ihres Teams und dokumentieren Sie es.
5. Beschreiben Sie Abläufe, bevor Sie sie automatisieren.
6. Steuern Sie, ob KI-Suchen Ihre Website finden.
7. Führen Sie eine Telefon-KI nur mit klaren Spielregeln ein.

Regel 1: Warum gehören Kundendaten nicht ins kostenlose ChatGPT?

Ein privates Gratiskonto ist kein Ort für personenbezogene Kundendaten, wenn Ihr Betrieb keinen Vertrag mit dem Anbieter hat. Das gilt für das Angebot mit Adresse ebenso wie für das Aufmaß mit Namen.

• Wer personenbezogene Daten von einem Dienstleister verarbeiten lässt, braucht nach Art. 28 DSGVO einen Auftragsverarbeitungsvertrag.
• OpenAI bietet für ChatGPT Business, Enterprise und die API ein Data Processing Addendum an. Für ein privates Gratiskonto gibt es keinen solchen Vertrag mit Ihrem Unternehmen.
• Bei Diensten für Einzelpersonen kann OpenAI Inhalte laut Hilfe-Artikel zum Training nutzen. Abschaltbar ist das in den Datenkontrollen („Improve the model for everyone“).

Was das für Ihren Betrieb heißt:

• Legen Sie schriftlich fest, welche KI-Zugänge erlaubt sind.
• Listen Sie auf, welche Daten nie in ein Gratiskonto gehören, etwa Namen, Adressen und Aufträge Ihrer Kunden.
• Lassen Sie ein Geschäftsangebot vorab datenschutzrechtlich prüfen.

Regel 2: Warum muss ich KI-Antworten prüfen?

Weil Training und Bewertung das Raten belohnen. Die OpenAI-Studie „Why Language Models Hallucinate“ (Kalai, Nachum, Vempala, Zhang, September 2025) vergleicht das mit einem Multiple-Choice-Test: Eine leere Antwort bringt sicher null Punkte, eine geratene wenigstens eine Chance.

Der Begleitbeitrag nennt ein Beispiel aus einem Wissenstest. Ein älteres OpenAI-Modell enthielt sich in 1 % der Fälle und lag in 75 % falsch. Ein neueres enthielt sich in 52 % der Fälle und lag in 26 % falsch.

Das neuere Modell sagt öfter „weiß ich nicht“ und liegt seltener daneben. Eine KI, die nie zögert, ist kein gutes Zeichen. Wer die Antwort auf eine Mängelrüge von der KI entwerfen lässt, sollte sie deshalb nie ungeprüft abschicken.

Was das für Ihren Betrieb heißt:

• Lassen Sie KI-Ausgaben, die Kunden oder Verträge betreffen, von einem Menschen prüfen.
• Verlangen Sie bei Sachaussagen eine Quelle und öffnen Sie sie selbst.
• Legen Sie Ihre Preis- und Materialkalkulation als eigenes Dokument ab und lassen Sie die KI daraus antworten.

Regel 3: Was passiert, wenn beim KI-Anbieter etwas schiefgeht?

Daten können für Dritte sichtbar werden, auch ohne Hackerangriff. Der Vorfall vom 20.03.2023 war kein Angriff, sondern ein Softwarefehler.

Während eines rund neunstündigen Fensters konnten bei 1,2 % der damals aktiven ChatGPT-Plus-Abonnenten Daten für andere Nutzer sichtbar sein: Name, E-Mail, Zahlungsadresse, die letzten vier Kreditkartenziffern und das Ablaufdatum. Vollständige Kartennummern waren nie betroffen.

Was das für Ihren Betrieb heißt:

• Notieren Sie, wer bei Ihnen eine Datenpanne prüft und meldet.
• Führen Sie eine Liste der KI-Dienste, die Ihr Betrieb nutzt, damit Sie bei einer Anbietermeldung wissen, ob Sie betroffen sind.

Regel 4: Was verlangt der AI Act bei der KI-Kompetenz?

Er verlangt, dass Unternehmen die KI-Kompetenz ihres Personals fördern. Ein gesetzlich vorgeschriebenes Zertifikat gibt es nicht. Der Stand:

• Art. 4 der Verordnung (EU) 2024/1689 gilt seit dem 2. Februar 2025.
• Seit der Digital-Omnibus-Verordnung (in Kraft seit 27.07.2026) müssen Anbieter und Betreiber die KI-Kompetenz „fördern“; vorher stand dort „sicherstellen“.
• Das Gesetz verlangt kein bestimmtes Wissensniveau je Mitarbeiter.
• Seit dem 2. August 2026 führt in Deutschland die Bundesnetzagentur die Aufsicht.

Ein Schulungsnachweis dokumentiert die Förderung. Ein Beispiel ist unsere KI-Kompetenz-Schulung mit Teilnahmezertifikat. Wer beim Kundentermin eine KI-Zusammenfassung nutzt, sollte wissen, was sie kann und was nicht.

Was das für Ihren Betrieb heißt:

• Schulen Sie Ihr Team.
• Legen Sie den Nachweis mit Datum, Teilnehmenden und Inhalten ab.
• Bestimmen Sie eine Person, die den Nachweis aktuell hält.

Regel 5: Warum zuerst die Abläufe beschreiben?

Weil KI nur automatisieren kann, was jemand beschrieben hat. Das zeigt sich auch in Projekten bei Provimedia: Wer seine Abläufe kennt, kann KI-Lösungen und Prozessautomatisierung gezielt einsetzen. Beim Angebot ist das besonders greifbar: vom Aufmaß bis zum Versand.

Was das für Ihren Betrieb heißt:

• Halten Sie einen häufig wiederkehrenden Ablauf in einzelnen Schritten schriftlich fest, bevor Sie ihn an ein Werkzeug übergeben.
• Notieren Sie dabei, wer was womit erledigt und was das Ergebnis ist.
• Vermerken Sie Ausnahmen, bei denen ein Mensch entscheiden muss.

Regel 6: Wie finden ChatGPT und Co. meinen Betrieb?

Über Crawler, die Sie steuern können. Laut OpenAI-Dokumentation macht der OAI-SearchBot Websites in der ChatGPT-Suche auffindbar, während der GPTBot Trainingsdaten sammelt. Beides steuern Sie über die robots.txt. Fragt ein Kunde die KI nach einem Betrieb in Ihrer Region, soll Ihre Seite vorkommen können. Mehr dazu unter SEO und Sichtbarkeit in ChatGPT & Co.

Was das für Ihren Betrieb heißt:

• Rufen Sie ihredomain.de/robots.txt auf und prüfen Sie, ob der OAI-SearchBot per Disallow gesperrt ist; dann findet die ChatGPT-Suche Ihre Seite nicht.
• Entscheiden Sie getrennt davon, ob der GPTBot Ihre Seiten für Training nutzen darf.
• Geben Sie diese Prüfung an Ihre Webagentur oder den Betreuer Ihrer Website.

Regel 7: Worauf achte ich bei einer Telefon-KI?

Silvio erzählt in der Folge, warum er seine Telefon-KI wieder abgeschafft hat. Wer eine einführen will, legt vorher die Spielregeln fest, etwa für den Anruf eines Kunden, der seinen Termin verschieben will.

Was das für Ihren Betrieb heißt:

• Legen Sie fest, wann die KI an einen Menschen durchstellt.
• Bestimmen Sie, wer Gespräche stichprobenartig nachhört.
• Sagen Sie Anrufenden zu Beginn, dass eine KI spricht.

Häufige Fragen

Reicht ChatGPT Plus für Kundendaten?

Nein, davon ist nicht auszugehen. Plus ist ein Angebot für Einzelpersonen. Den Auftragsverarbeitungsvertrag bietet OpenAI für Business, Enterprise und die API an.

Darf ich ChatGPT für Angebote nutzen, wenn ich Kundennamen weglasse?

Ohne personenbezogene Daten entfällt das Datenschutzproblem dieser Art weitgehend. Beachten Sie aber: Auch Adresse, Telefonnummer oder eine eindeutige Baustellenbeschreibung können eine Person erkennbar machen. Lassen Sie das im Zweifel prüfen.

Reicht eine interne Unterweisung als Nachweis?

Art. 4 verlangt kein bestimmtes Format und kein Zertifikat. Entscheidend ist, dass die Förderung stattfindet und nachvollziehbar ist. Dokumentieren Sie deshalb Datum, Teilnehmende und Inhalte.

Schadet es meiner Sichtbarkeit, wenn ich den GPTBot sperre?

Laut OpenAI-Dokumentation sind die Einstellungen unabhängig voneinander. Wer nur den GPTBot sperrt, kann in der ChatGPT-Suche weiter auffindbar sein, solange der OAI-SearchBot erlaubt ist.

Zur Folge

Folge #42 von „Chefgeflüster by Lars und Silvio“ erschien am 11.10.2026 und dauert 1:37 Stunden. Die Hosts sind Lars Piezl (Unternehmer, Mentor und Speaker) und Silvio Kremzow (Malermeister), mehr auf chefgefluester.rocks. Alexander Weipprecht entwickelt seit rund 20 Jahren Software; Provimedia baut seit zwei Jahren ausschließlich KI-Lösungen für Unternehmen. Die Regeln folgen den Themen der Folge; Zahlen und Belege stammen aus den verlinkten Quellen. Was im Gespräch genau gesagt wurde, hören Sie am besten selbst.

Allgemeine Information, keine Rechtsberatung.

Quellen

• DSGVO (Verordnung (EU) 2016/679), Art. 28
• OpenAI Data Processing Addendum
• OpenAI Hilfe: Datenkontrollen und Modelltraining
• OpenAI: Why Language Models Hallucinate
• Kalai et al., Why Language Models Hallucinate (arXiv:2509.04664)
• OpenAI: March 20 ChatGPT outage
• EU AI Act, Verordnung (EU) 2024/1689
• OpenAI Crawler-Dokumentation
• Podcastfolge #42 auf Spotify
• Chefgeflüster: Podcast-Website

Stand: 12.10.2026