KI-Transparenz & Benutzerhandbuch

1.1 Was TeachPie heute leistet

TeachPie unterstützt Lehrkräfte, Lernende und Organisationen insbesondere bei:

• Erstellung, Überarbeitung und Differenzierung von Unterrichtsmaterialien,
• Planung von Unterrichtsstunden, Reihen und Lernpfaden,
• Lernbegleitung im Learning Space mit Chat-, Hilfs- und Erklärfunktionen,
• Prüfungsnaher Unterstützung wie OCR, Transkription, Analyse und strukturierter Vorbewertung,
• Klassen-, Schul- und Schulträgerfunktionen, soweit im jeweiligen Tenant freigeschaltet.

1.2 Zweckbestimmung

TeachPie ist nicht als autonom entscheidendes System konzipiert. Die Plattform erstellt Vorschläge, Strukturen, Entwürfe, Hinweise und technisch unterstützte Auswertungen. Sie soll fachliche und organisatorische Arbeit erleichtern, nicht aber menschliche Verantwortung verdrängen.

1.3 Zielgruppen

• Lehrkräfte und Referendarinnen bzw. Referendare,
• Schüler:innen im gesteuerten Lernkontext,
• Schulen, Schulträger und berechtigte Administratorinnen bzw. Administratoren,
• interne Produkt-, Support- und Compliance-Funktionen im technisch erforderlichen Umfang.

1.4 Kontakt und Meldungen

Technische oder inhaltliche Auffälligkeiten können über die in der Plattform vorgesehenen Kontaktwege oder über kontakt@teachpie.de gemeldet werden. Datenschutz- und Transparenzanfragen können zusätzlich an datenschutz@teachpie.de gerichtet werden.

2.1 Eingesetzte KI-Funktionen

TeachPie nutzt gegenwärtig vor allem Google Vertex AI für generative Textverarbeitung, Strukturierung, Analyse, OCR-gestützte Erfassung und weitere KI-Funktionen. Für Text-to-Speech wird aktuell Azure OpenAI eingesetzt. Je nach Funktionsbereich können unterschiedliche Modelle, Kontexte und Werkzeuge kombiniert werden.

2.2 Grenzen und Fehlerrisiken

• Halluzinationen und sachliche Fehler: KI-Ausgaben können unzutreffend, unvollständig oder unangemessen generalisiert sein.
• OCR- und Bildfehler: Handschrift, Bildqualität, Ausschnitt, Perspektive oder Fremdsprachen können die Erkennungsqualität reduzieren.
• Kontextabhängigkeit: Gute Ergebnisse hängen wesentlich von der Qualität der Eingabe, vom bereitgestellten Kontext und von der Auswahl der Funktion ab.
• Bias und Vereinfachung: KI-Modelle können unbeabsichtigte Verzerrungen oder kulturelle bzw. fachliche Verkürzungen enthalten.
• Verfügbarkeitsrisiken: Externe Modellanbieter können zeitweise nicht erreichbar sein oder Verhalten nach Modellupdates ändern.

2.3 Nicht vorgesehene Verwendung

• Keine autonome, unbeaufsichtigte Leistungs- oder Verhaltensentscheidung über Lernende.
• Keine abschließende Benotung oder disziplinarische Entscheidung allein auf Basis eines KI-Ergebnisses.
• Keine Verwendung als medizinisches, psychologisches oder rechtliches Expertensystem.
• Keine Eingabe unnötiger sensibler oder besonders geschützter personenbezogener Daten in freie Prompts.

2.4 Empfehlungen für einen verantwortungsvollen Einsatz

• Prüfen Sie fachlich relevante Aussagen vor der Verwendung im Unterricht.
• Verwenden Sie möglichst sparsame, abstrahierte und kontextgerechte Eingaben.
• Dokumentieren Sie bei sensiblen Prozessen, wie KI-Ausgaben geprüft und freigegeben wurden.
• Nutzen Sie bei Minderjährigen und Bewertungen erhöhte Sorgfalt und klare schulische Regeln.

3.1 Grundsatz der menschlichen Letztentscheidung

TeachPie soll Entscheidungen vorbereiten, nicht ersetzen. Lehrkräfte, Schulen und sonstige Verantwortliche behalten die Letztentscheidung über Inhalte, Empfehlungen, Lernpfade, Bewertungen, Kommunikation und organisatorische Maßnahmen.

3.2 Praktische Kontrollmöglichkeiten

• KI-generierte Inhalte können in der Regel bearbeitet, verworfen, erneut erzeugt oder manuell überschrieben werden.
• Chat- und Materialergebnisse müssen aktiv übernommen und weiterverwendet werden; TeachPie führt keine autonomen externen Aktionen im Schulalltag aus.
• Bei Ausfällen oder Fehlverhalten sollen Nutzerinnen und Nutzer Meldemöglichkeiten und alternative Arbeitsweisen nutzen.

3.3 Prüfungs- und Bewertungsbezug

TeachPie kann in einzelnen Funktionen Transkription, Analyse oder eine strukturierte Vorkorrektur unterstützen. Diese Unterstützung ist nicht als automatische Endbewertung konzipiert. Die fachliche und rechtliche Verantwortung für Prüfung, Beurteilung und Rückmeldung verbleibt bei der Lehrkraft bzw. der verantwortlichen Stelle.

4.1 Welche Daten im KI-Kontext verarbeitet werden

Je nach Funktion können Prompts, Chatverläufe, Dokumentausschnitte, OCR-Inhalte, Bilder, Audioartefakte, technische Kontextdaten sowie Modellantworten verarbeitet werden. TeachPie verfolgt den Grundsatz der Datenminimierung, kann aber nicht verhindern, dass Nutzerinnen und Nutzer personenbezogenen Inhalt eingeben oder hochladen.

4.2 Speicherung und Nachvollziehbarkeit

• Chat-Historie: Chatnachrichten werden in internen Anwendungssystemen gespeichert, damit Verläufe in der Anwendung wieder verfügbar sind.
• Compliance-Logging: Für KI-Vorgänge werden strukturierte Audit-Logs in internen Speichersystemen gespeichert. Diese können Prompt- und Output-Inhalte, Zeitstempel, Rollen, Kontext, Modell- und Token-Metadaten umfassen.
• Voice-Funktionen: Audioaufnahmen, Screenshots und technische Manifeste können in internen Speichersystemen abgelegt werden, wenn die Sprachfunktion genutzt wird.

4.3 Modelltraining und Anbieterhinweise

TeachPie selbst verwendet Kundendaten nicht zum Training eigener Basismodelle. Nach den für die aktuell genutzten enterprise-orientierten Modellangebote veröffentlichten Anbieterinformationen und Konfigurationen werden übermittelte Kundendaten nicht zum Training der allgemeinen Foundation-Modelle dieser Dienste verwendet. Dies schließt jedoch technische Verarbeitung, Sicherheitsfilterung und gegebenenfalls temporäre Speicherung zur Missbrauchs- oder Qualitätskontrolle nicht pauschal aus.

4.4 Transparenz im Sinne des EU AI Act

TeachPie setzt Transparenz-, Logging-, Dokumentations- und Governance-Maßnahmen in Orientierung an den Anforderungen des EU AI Act um. Die konkrete regulatorische Einordnung hängt jedoch vom jeweiligen Einsatzszenario ab. Schulen und Schulträger müssen daher eigenständig prüfen, ob zusätzliche Pflichten, etwa aus Schulrecht, Aufsichtsvorgaben oder einer Datenschutz-Folgenabschätzung, einschlägig sind.

5.1 Praktische Eingaberisiken

• Unleserliche oder schräg fotografierte Vorlagen verschlechtern OCR-Ergebnisse.
• Sehr lange oder unstrukturierte Prompts können zu diffuseren Ergebnissen führen.
• Personenbezogene Inhalte in Audio, Bild oder Text erhöhen das Datenschutzrisiko und sollten auf das Notwendige begrenzt werden.

5.2 Gute Praxis

• Verwenden Sie klare, sachliche und kontextbezogene Eingaben.
• Reduzieren Sie Dokumente und Bilder nach Möglichkeit auf die tatsächlich benötigten Inhalte.
• Prüfen Sie Ergebnisse insbesondere bei Prüfungen, Förderentscheidungen und sensiblen Rückmeldungen immer manuell.

5.3 Organisatorische Mindestanforderung

Für schulische oder behördliche Kontexte sollten Verantwortliche eine interne Nutzungsregel festlegen, die insbesondere Umgang mit personenbezogenen Daten, Prüfprozesse, Freigabewege, Meldewege für Fehlverhalten und den Einsatz in Bewertungssituationen adressiert.