​Die rasante Entwicklung generativer Künstlicher Intelligenz (KI) eröffnet immense Chancen, bringt jedoch auch bedeutende ethische Herausforderungen mit sich. In diesem Beitrag beleuchten wir die ethischen Fragestellungen rund um generative KI und stellen SAPs Ansatz zur Sicherstellung von Sicherheit und Verantwortung vor.

Ethische Herausforderungen der generativen KI

Generative KI-Systeme, wie Large Language Models (LLMs), haben das Potenzial sowohl positive als auch negative Auswirkungen auf Personen und die Umwelt zu haben. Zu den zentralen ethischen Herausforderungen zählen:

• Schadensvermeidung: Es ist essenziell Schäden für Individuen und die Umwelt zu verhindern. Dies erfordert einen starken Fokus auf KI-Sicherheit und ethische Grundsätze.
• Menschliche Kontrolle: Menschen müssen die Kontrolle über KI-Systeme behalten, nicht umgekehrt. Oftmals sind die verwendeten Daten und neuronale Netzwerke schwer kontrollierbar, was das Vertrauen in die Ergebnisse beeinträchtigen kann.
• Fairness und Vermeidung von Diskriminierung: Die fehlende Verwaltung von Datensätzen kann zu Vorurteilen und Diskriminierungen führen, insbesondere wenn bestimmte Gruppen systematisch benachteiligt werden. SAP führt hierzu umfangreiche Bias-Tests durch, um sicherzustellen, dass Trainingsdaten, Testdatensätze und Modelle frei von Vorurteilen und Diskriminierungen sind.
• Transparenz und Erklärbarkeit: Um KI-Systeme effektiv zu steuern, muss deren Funktionsweise verständlich sein. Dies erfordert neben technischem Wissen ein tiefes Verständnis der Trainingsdaten und der internen Mechanismen der Modelle, was durch intransparente Daten oft erschwert wird.
• Datenschutz und Datenverwaltung: Trainingsdaten können sensible Informationen enthalten, die von den Modellen memorisiert und potenziell missbraucht werden könnten. Ein weiteres Risiko stellen die Daten dar, die in die Eingabe übergeben werden, da das Modell diese Daten möglichst nicht lernen soll. SAP implementiert strenge Maßnahmen zur Anonymisierung und Pseudonymisierung von Daten, um sicherzustellen, dass sensible Informationen geschützt bleiben und keine Sicherheitsrisiken entstehen.

Ansätze zur Bewältigung ethischer Herausforderungen

Um diesen Herausforderungen zu begegnen, verfolgt SAP einen umfassenden Ansatz, der mehrere Ebenen umfasst:

• Ethische Standards und Engineering Excellence: Die Einhaltung strenger ethischer Standards und exzellenter Ingenieurskunst ist grundlegend, um vertrauenswürdige KI-Systeme zu entwickeln. SAP orientiert sich dabei an internationalen Leitlinien und Best Practices.
• EU AI Act und verantwortungsvolle KI-Regulierung: Der EU AI Act stellt einen wichtigen Rahmen für die Regulierung verantwortungsbewusster KI dar. SAP integriert diese regulatorischen Anforderungen in seine Entwicklungsprozesse, um sicherzustellen, dass die KI-Lösungen den gesetzlichen Vorgaben entsprechen.
• Externe Beratung und Ethikberatungsgremium: Durch die Einbindung externer Experten und Ethikberatungsgremien gewährleistet SAP eine objektive und fundierte Bewertung der ethischen Aspekte der KI-Systeme.
• UNESCO-Empfehlungen und Leitprinzipien: Die Empfehlungen der UNESCO dienen als zusätzliche Orientierung, um globale ethische Standards in die KI-Entwicklung zu integrieren.

Der Ethikbewertungsprozess bei SAP

SAP hat einen strukturierten Ethikbewertungsprozess etabliert, der im AI Ethics Handbook beschrieben ist. Dieser Prozess umfasst:

• Redline-Fälle: Identifikation von Szenarien, die potenziell Schaden für die Umwelt oder die persönliche Freiheit verursachen könnten.
• Anforderungen für verantwortungsvolle und vertrauenswürdige KI: Definition von Kriterien, die sicherstellen, dass die KI-Systeme ethischen Standards entsprechen.

Entwicklung sicherer und verantwortungsbewusster generativer KI

SAP verfolgt einen ganzheitlichen Ansatz zur Entwicklung sicherer und verantwortungsbewusster generativer KI. Dies umfasst die Implementierung von Orchestrierungsdiensten, die zusätzliche Sicherheits- und Verantwortungsfunktionen bieten.

Orchestrierungsservice im Generative AI Hub

Der Orchestrierungsservice, Teil des Generative AI Hub, ermöglicht es Unternehmen, generative KI schnell und sicher zu konfigurieren. Dieser Service umfasst unter anderem:

• Grounding: Zusätzliche Informationen werden dem Anfrageprozess hinzugefügt, um Halluzinationen zu reduzieren und die Antwortgenauigkeit zu erhöhen. Halluzinationen bedeuten in diesem Zusammenhang erfundene „Fakten“ der KI. Falls das System keine passende Antwort kennt, gibt es dies transparent an und vermeidet unbegründete Annahmen oder Vermutungen.
• Data Masking: Identifizierbare Informationen wie Namen, Daten oder sensible Benutzerinformationen werden maskiert, um Voreingenommenheiten zu vermeiden. Beispielsweise bevorzugen klassische KI-Systeme männliche Nutzer, was bei Bewerbungsprozessen von Nachteil sein kann.
• Filtering: Schädliche oder unethische Inhalte werden automatisch herausgefiltert (sowohl bei der Eingabe von Prompts, als auch bei der Ausgabe).

Fazit: Die Zukunft sicherer und verantwortungsbewusster KI mit SAP

Die Entwicklung generativer KI bietet enorme Möglichkeiten, birgt jedoch auch erhebliche ethische Herausforderungen. Mit einem umfassenden Ansatz, der ethische Standards, regulatorische Anforderungen und innovative technische Lösungen kombiniert, setzt SAP Maßstäbe für sichere und verantwortungsbewusste KI. Der Orchestrierungsservice im Generative AI Hub und die strengen Ethikrichtlinien gewährleisten, dass SAPs KI-Lösungen vertrauenswürdig, fair und transparent sind.