Was ist der AI Act?

Der AI Act ist ein von der EU vorgeschlagenes Gesetz, das erstmals umfassende Regeln für den Einsatz und die Entwicklung von KI-Systemen einführt. Ziel ist es, sicherzustellen, dass KI-Technologien sicher, transparent und ethisch vertretbar sind, während sie gleichzeitig Innovationen fördern. Der AI Act wurde erstmals im April 2021 von der Europäischen Kommission vorgestellt und befindet sich derzeit in der Endphase der Gesetzgebung.

Kernprinzipien des AI Act

Der AI Act verfolgt einen risikobasierten Ansatz, der KI-Systeme in vier Kategorien einteilt:

1. Unvertretbares Risiko: KI-Systeme, die eine Bedrohung für die Sicherheit oder fundamentale Rechte darstellen, wie z.B. manipulative Technologien oder soziale Punktesysteme, sind komplett verboten.
2. Hohes Risiko: Hierzu gehören KI-Systeme, die in sensiblen Bereichen wie Gesundheitswesen, Strafverfolgung oder Personalrekrutierung eingesetzt werden. Solche Systeme unterliegen strengen Anforderungen in Bezug auf Transparenz, Sicherheit und Datenqualität.
3. Begrenztes Risiko: KI-Systeme mit geringeren Risiken, wie etwa Chatbots, müssen die Nutzer lediglich darüber informieren, dass sie mit einer KI interagieren.
4. Minimales Risiko: Zu dieser Kategorie gehören KI-Anwendungen wie Videospiele oder Spamfilter, die weitgehend frei von regulatorischen Vorgaben sind.

Warum ist der AI Act wichtig?

Der AI Act hat das Potenzial, ein globaler Standard für die Regulierung von KI zu werden. Hier sind einige Gründe, warum das Gesetz wegweisend ist:

1. Schutz von Grundrechten: Der AI Act soll sicherstellen, dass KI-Systeme die Grundrechte der Bürger wahren. Dies betrifft unter anderem den Schutz vor Diskriminierung, den Schutz der Privatsphäre und die Gewährleistung von Transparenz.
2. Vertrauensförderung: Die Regulierung kann dazu beitragen, das Vertrauen der Öffentlichkeit in KI-Technologien zu stärken, indem sie klare Standards setzt und Missbrauch verhindert.
3. Wettbewerbsvorteil: Europa könnte sich durch den AI Act als globaler Vorreiter in der KI-Ethik positionieren. Dies könnte Unternehmen anziehen, die von einem sicheren und stabilen Rechtsrahmen profitieren wollen.

Herausforderungen und Kritik

Trotz seiner ambitionierten Ziele steht der AI Act auch in der Kritik. Einige der Herausforderungen umfassen:

• Innovationsbremse: Kritiker befürchten, dass zu strenge Auflagen die Innovationskraft europäischer Unternehmen beeinträchtigen könnten, insbesondere im Vergleich zu weniger regulierten Märkten wie den USA oder China.
• Komplexität der Umsetzung: Die Einhaltung der Vorschriften könnte gerade für kleine und mittelständische Unternehmen (KMUs) eine erhebliche Belastung darstellen.
• Globale Auswirkungen: Da KI-Systeme oft global eingesetzt werden, stellt sich die Frage, wie effektiv ein regional begrenztes Gesetz wie der AI Act wirklich sein kann.

Ausblick

Der AI Act ist ein entscheidender Schritt, um die Chancen und Risiken von KI zu balancieren. Er zeigt, dass Europa bereit ist, Verantwortung zu übernehmen und eine Vorreiterrolle in der globalen KI-Regulierung einzunehmen. Gleichzeitig wird seine Umsetzung entscheidend dafür sein, ob er als Erfolg oder Hindernis wahrgenommen wird.

Für Unternehmen und Entwickler bietet der AI Act die Chance, sich auf einen klaren Rechtsrahmen einzustellen und Vertrauen bei den Nutzern aufzubauen. Für die Gesellschaft als Ganzes signalisiert er, dass technologische Innovation nicht auf Kosten von Sicherheit und Grundrechten gehen muss.

Fazit

Der AI Act ist mehr als nur ein Gesetz – er ist ein Meilenstein auf dem Weg zu einer verantwortungsvollen und ethischen Nutzung von KI. Europa setzt damit ein starkes Zeichen für eine Zukunft, in der Technologie dem Menschen dient und nicht umgekehrt.

Der Beitrag AI Act – Europas mutiger Schritt in die Regulierung von KI erschien zuerst auf CEOsBay.

Was ist SHAP?

Es steht für „SHapley Additive exPlanations“ und ist ein Framework zur Erklärbarkeit von maschinellen Lernmodellen. Es basiert auf dem Konzept der Shapley-Werte, einem mathematischen Ansatz aus der kooperativen Spieltheorie, der erklärt, wie wichtig der Beitrag eines einzelnen Spielers (oder Features) zu einem Gesamtergebnis ist.

Im Kontext der KI bedeutet dies, dass es helfen kann, den Einfluss jedes Eingabefeatures auf die Vorhersagen eines Modells zu quantifizieren. Mit anderen Worten: SHAP zeigt auf, welche Merkmale eines Datensatzes wie stark zu einer bestimmten Entscheidung oder Vorhersage beigetragen haben.

Warum ist SHAP wichtig?

Die Erklärbarkeit von KI-Modellen ist entscheidend aus mehreren Gründen:

1. Vertrauen: Ohne Transparenz fehlt oft das Vertrauen in KI-Modelle. Besonders in sensiblen Bereichen wie der Medizin oder im Finanzwesen müssen die Ergebnisse nachvollziehbar sein.
2. Regulatorische Anforderungen: In vielen Ländern gibt es gesetzliche Vorgaben, die Transparenz und Nachvollziehbarkeit von Algorithmen vorschreiben. Beispiele sind die Datenschutz-Grundverordnung (DSGVO) in Europa oder spezifische Richtlinien für KI im Gesundheitswesen.
3. Debugging und Optimierung: Ein erklärbares Modell erleichtert es Entwicklern, Fehler zu identifizieren und das Modell zu verbessern.
4. Ethik: KI-Systeme können unbeabsichtigte Verzerrungen oder Vorurteile (Bias) aufweisen. Mit Werkzeugen wie SHAP lassen sich solche Probleme aufdecken und beheben.

Wie funktioniert SHAP?

SHAP berechnet den Beitrag jedes Features zu einer Modellvorhersage, indem es verschiedene Kombinationen von Features analysiert. Dabei nutzt es die folgenden Prinzipien:

• Additivität: Der Gesamtwert der Vorhersage ist die Summe der einzelnen Beiträge der Features.
• Symmetrie: Wenn zwei Features denselben Einfluss auf die Vorhersage haben, erhalten sie denselben SHAP-Wert.
• Dummy-Feature: Ein Feature, das keinen Einfluss auf die Vorhersage hat, erhält einen SHAP-Wert von null.

Das Ergebnis sind interpretierbare Werte, die zeigen, wie viel jedes Feature zur finalen Entscheidung beiträgt. Die Visualisierungen, die SHAP generiert, helfen dabei, diese Werte intuitiv zu verstehen.

Beispiele für den Einsatz

1. Medizin: In einem KI-Modell, das Krankheitsrisiken vorhersagt, könnte es zeigen, dass Alter und Cholesterinwerte die wichtigsten Faktoren für eine bestimmte Vorhersage sind.
2. Finanzwesen: In einem Kreditscoring-Modell könnte SHAP erklären, warum ein Kunde als kreditwürdig oder nicht kreditwürdig eingestuft wurde.
3. Energie: In Prognosemodellen für den Stromverbrauch kann SHAP aufzeigen, wie Wetterbedingungen und Tageszeit die Vorhersagen beeinflussen.

Herausforderungen und Grenzen von SHAP

Obwohl es ein mächtiges Werkzeug ist, gibt es auch Herausforderungen:

• Rechenintensiv: Die Berechnung von SHAP-Werten ist bei großen Datensätzen oder komplexen Modellen sehr rechenaufwendig.
• Interpretation: Obwohl es Werte erklärbar macht, erfordert ihre Interpretation immer noch Fachwissen.
• Feature-Interaktionen: In hochdimensionalen Datensätzen mit starker Interaktion zwischen Features können SHAP-Werte schwer zu deuten sein.

Fazit

Es ist ein unverzichtbares Werkzeug, um die „Black Box“ der KI zu öffnen. Es bietet Entwicklern, Entscheidungsträgern und Anwendern die Möglichkeit, KI-Modelle besser zu verstehen, zu optimieren und zu vertrauen. Obwohl es noch Herausforderungen gibt, ist es ein wichtiger Schritt in Richtung verantwortungsvoller und transparenter KI.

Für Organisationen, die KI einsetzen oder entwickeln, sollte die Integration von Erklärbarkeits-Tools wie SHAP keine Option, sondern eine Selbstverständlichkeit sein. Nur so können wir sicherstellen, dass KI-Systeme nicht nur leistungsfähig, sondern auch ethisch und nachvollziehbar sind.

Der Beitrag SHAP – Transparenz und Erklärbarkeit in der KI erschien zuerst auf CEOsBay.

Hier kommt der Begriff der „erklärbaren KI“ (englisch: Explainable AI, kurz XAI) ins Spiel. In diesem Blog-Beitrag werfen wir einen Blick darauf, warum erklärbare KI wichtig ist, welche Ansätze es gibt und wie sie die Zukunft der KI mitgestaltet.

Warum ist erklärbare KI wichtig?

KI-Modelle, insbesondere solche, die auf maschinellem Lernen basieren, arbeiten oft als sogenannte „Black Boxes“. Das bedeutet, dass sie Entscheidungen treffen, ohne dass für Menschen klar ersichtlich ist, wie diese zustande gekommen sind. Obwohl diese Systeme hochgradig effektiv sein können, birgt ihre Intransparenz Risiken:

1. Vertrauen und Akzeptanz: Menschen sind eher bereit, einer Technologie zu vertrauen, deren Entscheidungsprozesse sie verstehen.
2. Fehleridentifikation: Wenn eine KI fehlerhafte Entscheidungen trifft, ist es essenziell, die Ursachen nachvollziehen zu können, um diese Fehler zu beheben.
3. Ethische Verantwortung: Besonders in sensiblen Bereichen wie der Medizin oder der Strafjustiz müssen Entscheidungen begründbar sein, um Diskriminierung oder andere ethische Probleme zu vermeiden.
4. Regulatorische Anforderungen: Viele Branchen unterliegen strengen Vorschriften, die Transparenz und Nachvollziehbarkeit vorschreiben.

Ansätze der erklärbaren KI

Die Forschung an erklärbarer KI hat verschiedene Ansätze hervorgebracht, die darauf abzielen, die „Black Box“ zu öffnen:

1. Post-hoc-Ansätze: Diese Methoden versuchen, nachträglich Erklärungen für die Entscheidungen eines KI-Modells zu liefern. Beispiele sind:

• LIME (Local Interpretable Model-agnostic Explanations): Eine Technik, die lokale Erklärungen für einzelne Vorhersagen generiert. Siehe auch meinen Beitrag „LIME – Erklärbarkeit der KI – Was ist LIME und warum ist es wichtig?„
• SHAP (SHapley Additive exPlanations): Ein Ansatz, der den Einfluss einzelner Eingabefeatures auf die Modellentscheidung quantifiziert.

1. Interpretable-by-design-Modelle: Diese Modelle sind von Anfang an so konzipiert, dass ihre Entscheidungsprozesse für Menschen verständlich sind. Beispiele sind Entscheidungsbäume oder lineare Regressionsmodelle, die klare, transparente Strukturen haben.
2. Visualisierungstools: Tools wie Heatmaps oder Aktivierungskarten helfen dabei, zu zeigen, welche Teile eines Bildes oder eines Datensatzes besonders relevant für eine Entscheidung waren. Diese sind besonders nützlich in der Bildverarbeitung.
3. Natürliche Sprache: Systeme, die ihre Entscheidungen in natürlicher Sprache erklären, können die Verständlichkeit für Laien verbessern. Ein Beispiel wäre ein KI-Modell, das sagt: „Ich habe diese Krankheit diagnostiziert, weil die Symptome X und Y typisch dafür sind.“ Siehe auch meinen Beitrag „Sprachmagie – NLP (Natural Language Processing)„

Herausforderungen und Grenzen

Obwohl erklärbare KI viele Vorteile bietet, gibt es auch Herausforderungen:

• Komplexität vs. Genauigkeit: Oft gibt es einen Zielkonflikt zwischen der Genauigkeit eines Modells und seiner Erklärbarkeit. Hochkomplexe Modelle wie neuronale Netze sind oft genauer, aber schwerer zu verstehen.
• Bias in Erklärungen: Auch Erklärungsansätze können voreingenommen sein und eine falsche Sicherheit vermitteln. Siehe auch meinen Beitrag „Automatisierungsverzerrungen (Bias) – Oder wie blindes Vertrauen in Technologie zu Fehlern führt„
• Benutzerfreundlichkeit: Nicht jede erklärbare Methode ist intuitiv verständlich, insbesondere für Laien.

Die Zukunft der erklärbaren KI

Erklärbare KI wird eine immer wichtigere Rolle spielen, da KI-Systeme zunehmend komplexer und allgegenwärtiger werden. Um Vertrauen und Akzeptanz in der Bevölkerung zu gewinnen, müssen Entwickler und Unternehmen erklärbare Ansätze in ihre Systeme integrieren. Gleichzeitig wird es entscheidend sein, ein Gleichgewicht zwischen Erklärbarkeit und Leistungsfähigkeit zu finden.

Ein möglicher Weg nach vorne sind hybride Modelle, die die Stärken von erklärbaren und leistungsstarken aber undurchsichtigen Modellen kombinieren. Ebenso wird die Zusammenarbeit zwischen Entwicklern, Regulierungsbehörden und Nutzern entscheidend sein, um klare Standards und Best Practices zu schaffen.

Fazit

Erklärbare KI ist weit mehr als nur ein technisches Detail – sie ist der Schlüssel zu einer verantwortungsvollen und nachhaltigen Nutzung von KI-Technologie. Transparenz und Nachvollziehbarkeit schaffen Vertrauen, reduzieren Risiken und ebnen den Weg für eine breite gesellschaftliche Akzeptanz. Während es noch Herausforderungen gibt, ist erklärbare KI zweifellos ein unverzichtbarer Bestandteil der Zukunft der KI.

Der Beitrag Erklärbare KI (XAI) – Schlüssel zu Vertrauen und Transparenz in der KI erschien zuerst auf CEOsBay.

Kurze Zeitreise

Die ISO-Norm 25010 ist aus dem Bedürfnis heraus entstanden, ein international anerkanntes und einheitliches Rahmenwerk für die Bewertung und Verbesserung von Software- und Systemqualität bereitzustellen. Die Geschichte von ISO 25010 ist eng mit der Entwicklung der ISO/IEC 25000-Serie (SQuaRE) verbunden, die sich aus früheren Standards und Modellen zur Softwarequalität entwickelt hat.

Entstehung

Und wenn man es genau nimmt, geht die Geschichte noch weitaus früher los. Und zwar mit McCall’s Quality Model aus dem Jahr 1977. Dieses Modell definierte 11 Qualitätsfaktoren, wie Zuverlässigkeit, Effizienz und Wartbarkeit, die die Softwarequalität beeinflussen bzw. mit Boehm’s Quality Model aus dem Jahr 1978. Wobei letzteres Modell sieben Hauptqualitätsmerkmale vorschlug, die die Softwarequalität beeinflussen. Dabei beispielsweise die Portabilität, Zuverlässigkeit und Verständlichkeit.

Die Internationale Organisation für Normung (ISO) und die Internationale Elektrotechnische Kommission (IEC) entwickelten gemeinsam den ISO/IEC 9126-Standard, der man 1991 veröffentlichte. Dieser Standard führte ein hierarchisches Qualitätsmodell ein, dass aus sechs Hauptqualitätsmerkmalen (Funktionalität, Zuverlässigkeit, Benutzbarkeit, Effizienz, Wartbarkeit und Übertragbarkeit) und mehreren Unterkriterien bestand. ISO/IEC 9126 legte den Grundstein für die Entwicklung der ISO/IEC 25000-Serie und ISO 25010.

ISO/IEC 25000-Serie

Die ISO/IEC 25000-Serie, auch als Systems and Software Quality Requirements and Evaluation (SQuaRE) bekannt, hat man entwickelt, um die verschiedenen Standards und Modelle zur Softwarequalität zu konsolidieren und eine umfassende, international anerkannte Normenserie für Software- und Systemqualität zu schaffen. Die Entwicklung von SQuaRE begann im Jahr 2001 und beinhaltete die Überarbeitung und Erweiterung des ISO/IEC 9126-Standards.

Folglich fand die Veröffentlichung von ISO 25010 im Jahr 2011 statt und ersetzte den früheren ISO/IEC 9126-Standard. Es führte zwei Qualitätsmodelle ein. Das Produktqualitätsmodell und das Qualitäts-in-Use-Modell. Die Hauptqualitätsmerkmale des Produktqualitätsmodells hat man von sechs auf acht erweitert, und die Unterkriterien hat man entsprechend aktualisiert. Sicherheit war nunmehr ein eigenständiges Hauptqualitätsmerkmal und die bestehenden Hauptqualitätsmerkmale hat man weiter verfeinert bzw. erweitert, um die Qualität von Software- und Softwaresystemen umfassender zu erfassen.

Die Entstehung von ISO 25010 ist das Ergebnis von jahrzehntelanger Forschung, Entwicklung und Konsolidierung von Best Practices und Standards zur Bewertung und Verbesserung der Software- und Systemqualität.

Sei der Veröffentlichung, hat ISO 25010 als zuverlässiger und anerkannter Standard für die Beurteilung der Softwarequalität gedient und den Entwicklern, Testern und Projektmanagern dabei geholfen, qualitativ hochwertige Produkte zu entwickeln und bereitzustellen.

Die dynamische Norm

Die ISO/IEC 25000-Serie und ISO 25010 sind nicht statisch. Man überprüft und aktualisiert die Inhalte kontinuierlich, um sich den stetig ändernden Anforderungen der Software- und Systementwicklung anzupassen. Die International Organization for Standardization (ISO) und die International Electrotechnical Commission (IEC) arbeiten gemeinsam daran, die Standards auf dem neuesten Stand zu halten und sie an neue Technologien, Methoden und Best Practices anzupassen.

Es ist wichtig zu beachten, dass man die ISO-Normen in einem Konsensprozess entwickelt, bei dem Experten aus verschiedenen Ländern und Organisationen zusammenarbeiten. Dies stellt sicher, dass die Normen umfassend und von hoher Qualität sind und die Bedürfnisse der verschiedenen Interessengruppen berücksichtigen.

Qualitätsmodelle

ISO 25010 bietet zwei Qualitätsmodelle: das Produktqualitätsmodell und das Qualitäts-in-Use-Modell. Das Produktqualitätsmodell bezieht sich auf die Qualität des Softwareprodukts selbst, während das Qualitäts-in-Use-Modell die Qualität aus der Perspektive des Endbenutzers bewertet.

Produktqualitätsmodell

Das Produktqualitätsmodell besteht aus acht Hauptqualitätsmerkmalen, die wiederum in mehrere Unterkriterien unterteilt sind. Die Hauptqualitätsmerkmale sind:

Funktionalität

Die Fähigkeit der Software, die geforderten Funktionen zu erfüllen, mit den Unterkriterien:

• Angemessenheit
• Richtigkeit
• Ordnungsmäßigkeit
• Interoperabilität
• Sicherheit

Leistungsfähigkeit

Die Fähigkeit der Software, in Bezug auf Leistung, Verarbeitungsgeschwindigkeit und Reaktionszeit auf Anforderungen zu reagieren. Mit den Unterkriterien:

• Zeitverhalten
• Ressourcenausnutzung

Kompatibilität

Die Fähigkeit der Software, in einer gemeinsamen Umgebung mit anderen Systemen oder Softwareprodukten zu interagieren. Mit den Unterkriterien:

• Koexistenz
• Interoperabilität

Benutzbarkeit

Die Fähigkeit der Software, von Benutzern effizient und zufriedenstellend genutzt zu werden. Mit den Unterkriterien:

• Verständlichkeit
• Erlernbarkeit
• Bedienbarkeit
• Attraktivität
• Barrierefreiheit

Zuverlässigkeit

Die Fähigkeit der Software, korrekt und zuverlässig zu funktionieren. Mit den Unterkriterien:

• Reife
• Fehlertoleranz
• Wiederherstellbarkeit

Sicherheit

Die Fähigkeit der Software, Vertraulichkeit, Integrität und Verfügbarkeit von Daten und Ressourcen zu gewährleisten. Mit den Unterkriterien:

• Vertraulichkeit
• Integrität
• Nichtabstreitbarkeit
• Rechenschaftspflicht
• Authentizität

Wartbarkeit

Die Fähigkeit der Software für Modifikationen und Verbesserbarkeit. Mit den Unterkriterien:

• Modularität
• Wiederverwendbarkeit
• Analysierbarkeit
• Modifizierbarkeit
• Testbarkeit (Hier möchte ich gerne auf TDD und BDD verweisen)

Übertragbarkeit

Die Fähigkeit der Software, von einer Umgebung in eine andere übertragen zu können. Mit den Unterkriterien:

• Anpassungsfähigkeit
• Installierbarkeit
• Konformität
• Austauschbarkeit

Qualitäts-in-Use-Modell

Das Qualitäts-in-Use-Modell beschreibt die Qualität aus der Perspektive des Endbenutzers und besteht aus fünf Hauptqualitätsmerkmalen:

Effektivität

Die Fähigkeit der Software, Benutzern dabei zu helfen, ihre Ziele präzise und vollständig zu erreichen.

Effizienz

Die Fähigkeit der Software, Benutzern zu ermöglichen, ihre Ziele mit angemessenen Ressourcen und minimalem Aufwand zu erreichen.

Zufriedenheit

Das Ausmaß, in dem die Software die Anforderungen und Erwartungen der Benutzer erfüllt.

Freiheit von Risiken

Die Fähigkeit der Software, potenzielle Schäden für Benutzer, Geschäftsprozesse oder die Umwelt zu minimieren.

Kontextabdeckung

Die Fähigkeit der Software, in verschiedenen Benutzer-, Organisations- und Umweltkontexten einsetzbar zu sein.

Fazit

Die ISO-Norm 25010 ist ein wertvolles Instrument zur Bewertung und Verbesserung der Qualität von Softwareprodukten und -systemen. Die Qualitätsmerkmale und Unterkriterien des Produktqualitätsmodells und des Qualitäts-in-Use-Modells ermöglichen eine umfassende Analyse und Bewertung verschiedener Aspekte der Softwarequalität. Softwareentwickler und Projektmanager können diese Modelle nutzen, um Qualitätsanforderungen zu definieren, Probleme zu identifizieren und Verbesserungen im Entwicklungsprozess umzusetzen. Dadurch entstehen qualitativ hochwertige Softwareprodukte, die den Bedürfnissen der Endbenutzer gerecht sind und zu einer höheren Zufriedenheit und besserer Performance beitragen.

Der Beitrag ISO-Norm 25010 – Leitfaden für herausragende Softwarequalität und vertrauenswürdige Systeme erschien zuerst auf CEOsBay.