Bei der Qualitätssicherung von KI sucht man häufig nach Schwachstellen: Womit kommt die KI schlecht zurecht, obwohl sie es eigentlich sollte?
Um das zu erreichen braucht man eine strukturierte, explorative Datenanalyse. Wir haben die Erfahrung gemacht, dass interaktive Visualisierungen, die sich reibungslos im Arbeitsablauf des Datenanalysten erzeugen lassen, den entscheidenden Unterschied machen können.
Dieser Showcase zeigt eine solche Anwendung, aus dem Bereich des Autonomen Fahrens. Jeder Punkt (auf der linken Seite) steht für einen Fußgänger in einem Verkehrszenario. Manche Fußgänger werden schlechter erkannt (weiter unten im Plot), zum Beispiel wenn sie sich in großer Entfernung zum Egofahrzeug befinden (weiter rechts im Plot).
Aber was ist noch schwierig für die KI? Durch Klicken begibt man sich auf die Suche nach den besonders "schwierigen" Fällen (für diese KI).
Das Besondere dieser Idee ist nicht unbedingt die reine Funktionalität, sondern die Möglichkeit solche interaktiven Visualisierung in den Alltag der Datenanalyse einfließen zu lassen. Unser Tooling lässt sich in der branchentypischen Jupyter-Umgebung verwenden, und erfordert kaum Mehraufwand gegenüber typischen Visualisierungsmethoden.