Interaktive Visualisierung: KI-Schwächen erkennen
Beschreibung
Eine KI die eine handgeschriebene Zahl richtig identifiziert ist nichts ungewöhnliches. In der Tat ist das trainieren eines solchen Modells die Einstiegsübung in zahlreiche KI- und Machine Learning Kurse. Das Modell, das in diesem Showcase zu sehen ist, zählt auch zu dieser Kategorie, und erreicht (auf Eingaben die es noch nie gesehen hat!) eine Genauigkeit von 99.2%. Zu sehen ist das im Balkendiagramm rechts, das die Einschätzung der KI widerspiegelt.
Doch was passiert, wenn man die eingegebene Zahl etwas verschiebt (also x, beziehungsweise y-offset verändert)? Hier gerät das Modell schnell in Schwierigkeiten. Was hier zu sehen ist, wird häufig als Sprödigkeit (brittleness) von KI-Modellen bezeichnet: Kleine Änderungen, die für den Menschen unbedeutend erscheinen, können große Auswirkungen auf die Ausgabe der KI haben.
Natürlich gibt es Möglichkeiten KIs schon beim Training gegen solche Störungen robust zu machen, doch das Phänomen selbst ist und bleibt ein Fakt des Deep Learning, also dem Trainieren von neuronalen Netzen, die man für solche Aufgaben verwendet. Die Frage, die sich bei der Qualitätssicherung von KI Anwendungen stellt, egal ob es um die Erkennung von Fußgängern oder um die Vorhersage von Börsenkursen geht, ist: Was wäre für diese Anwendung der Regler, der die KI ins stolpern bringt?
Durch systematische Teststrategien für KI-Anwendungen, die nicht zuletzt solche interaktiven Visualisierungen in der Art dieses Showcases beinhalten, bringen wir bei QualityMinds KI zur wahrer Qualität.
Keywords
Links
Und was ist mit deinem Use Case?
Data Science von der KI-Strategieberatung bis zu MLOps: Unser Fachwissen reicht von der Implementierung von Kl in Geschäftsanwendungen mit Hilfe von Datenanalyse, Datenwissenschaft, Daten- und ML-Engineering bis hin zu modernster Kl-Modellierung und Prototypenbau.
Wir haben auch eine eigene KI-Cluster-Infrastruktur aufgebaut, die aus 8 NVIDIA RTX" A6000 GPUs mit 384 GB VRAM für das Training und Testen von Kl-Modellen besteht.
Diese Infrastruktur nutzen wir für schnelles Prototyping und agile Entwicklung. Dadurch können wir schnell mit Projekten starten und rasch erste Ergebnisse liefern, ohne auf die Infrastruktur unserer Kunden angewiesen zu sein.
Dies ermöglicht uns eine hohe Flexibilität und Unabhängigkeit, wodurch wir unseren Kunden zeitnah und effizient Lösungen präsentieren können.
Ob Automobilindustrie, E-Commerce, öffentlicher Sektor oder Medien & Telekommunikation – unsere Experten haben bereits Projekte in und mit ganz unterschiedlichen Branchen entwickelt, vorangetrieben und realisiert. Unser Know-how geben wir gerne weiter, auch an dein Unternehmen.
