Der Einsatz von Künstlicher Intelligenz (KI) im privaten und beruflichen Umfeld nimmt kontinuierlich zu. Gleichzeitig werden auf europäischer Ebene Regulierungen durch KI-Zertifizierung und -Absicherung diskutiert. Die Fraunhofer-Institute IAO und IPA haben deshalb die aktuellen Regulierungsmaßnahmen analysiert und Anforderungen sowie Bedürfnisse seitens Unternehmen in einem neuen Whitepaper zusammengefasst.
In den letzten Jahren hat die Bedeutung der Künstlichen Intelligenz (KI) sowohl im Privat- als auch im Berufsleben stark zugenommen. KI hat das Potenzial, zahlreiche Industrien und Bereiche unserer Gesellschaft zu transformieren, indem sie Effizienz und Qualität in verschiedenen Anwendungsfällen verbessert. Allerdings sind auch erhebliche Risiken und Unsicherheiten mit dem Einsatz von KI verbunden, wie algorithmische Fehler, Haftungsrisiken, Diskriminierung und Datenschutzverletzungen. Wenn KI-basierte Systeme nicht nach einheitlichen Sicherheitsstandards entwickelt, betrieben und geprüft werden, können sie die Sicherheit von Produkten und Dienstleistungen beeinträchtigen.
Um diesen Herausforderungen entgegenzuwirken, hat die Europäische Union (EU) im Jahr 2021 einen Gesetzesentwurf für den EU AI Act vorgestellt, der eine Regulierung von KI zum Ziel hat. Im Juni 2023 konnten sich EU-Kommission und EU-Parlament auf einen Vorschlag einigen und verhandeln aktuell die Umsetzung mit den EU-Mitgliedsstaaten. Der AI Act als wichtiger Baustein für KI-Zertifizierung und -Absicherung ist auch von zentraler Bedeutung für den Innovation Park Artificial Intelligence, der das europaweit größte Ökosystem für KI-Entwicklung aufbaut. »In unserem Ipai-Ökosystem möchten wir KI-Anwendungen fördern, die nicht nur innovativ und effizient, sondern auch sicher und ethisch verantwortungsvoll sind. Ein praxisorientiertes Verständnis der EU-Standards aus dem AI Act zur KI-Absicherung hilft uns und unseren Mitgliedsunternehmen, alle notwendigen Vorkehrungen dafür zu treffen«, betont Moritz Gräter, der CEO des Ipai.
In Vorbereitung auf den kommenden EU AI Act haben das Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO und das Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA deshalb die Sichtweise von Unternehmen untersucht. So hat das Forschungsteam den aktuellen Stand der gesetzlichen Regulierungen zur KI-Absicherung aufgenommen. Basierend auf den Ergebnissen aus Interviews mit Fachleuten hat das Team außerdem Anforderungen seitens Unternehmen, Forschungs- und Bildungseinrichtungen an die Umsetzung von Absicherungs- und Zertifizierungsprozessen von KI-Systemen formuliert.
Weitere Informationen und Whitepaper zum Download auf der Website des Fraunhofer IPA
