Wallisellen (ots) -
- Künstliche Intelligenz (KI) macht Unternehmen anfälliger für
Grossschäden durch Cyberangriffe und technisches Versagen
- Verantwortung verlagert sich vom Menschen auf die Maschine:
Unternehmen sehen sich vor neuen, vielfach noch ungeklärten
Haftungsfragen
- Maximierung des Nettonutzens von KI durch vorausschauendes
Risikomanagement mit Fokus auf fünf Bereiche:
Softwareverfügbarkeit, Sicherheit, Verantwortlichkeit, Haftung
und Ethik
- Versicherungsbranche nutzt KI zur Automatisierung von
Prozessen, Risikoanalyse und besseren Kundeninteraktion
Chatbots, selbstfahrende Autos und vernetzte Maschinen in
digitalen Fabriken lassen erahnen, wie unsere Zukunft einmal aussehen
wird. Der Einsatz von Künstlicher Intelligenz (KI) bringt Unternehmen
viele Vorteile wie höhere Effizienz, weniger repetitive Aufgaben und
einen besseren Kundenservice. Gelangt die Technologie jedoch in die
falschen Hände, könnten die potenziellen Gefahren den grossen Nutzen
schnell nivellieren. So steigert die allgegenwärtige Vernetzung die
Anfälligkeit gegenüber böswilligen Cyberangriffen oder technischem
Versagen, die zu grossflächigen Ausfällen und enormen finanziellen
Verlusten führen können. Unternehmen sehen sich zudem mit neuartigen
Haftungsfragen konfrontiert, da sich die Verantwortung für Handlungen
vom Menschen auf die Maschine verlagert.
In ihrer neuen Studie "The Rise of Artificial Intelligence: Future
Outlook and Emerging Risks" identifiziert die Allianz Global
Corporate & Specialty (AGCS) einerseits die Vorteile der zunehmenden
Implementierung von KI in Wirtschaft und Gesellschaft, weist aber
auch auf entstehende Risiken durch die neue Technologie hin. Bei KI,
auch als maschinelles Lernen bekannt, handelt es sich um Software,
die in der Lage ist, wie ein Mensch zu denken und zu entscheiden.
"Egal ob für Wirtschaft, Politik, Mobilität, Gesundheit, Verteidigung
oder Umwelt, KI bringt vielfältige Vorteile, aber auch potenzielle
Risiken mit sich. Wir brauchen dringend vorbeugende Massnahmen zur
Risikominderung, um den Nettonutzen bei der breiten Einführung von
KI-Anwendungen zu maximieren und unbeabsichtigte Nebenwirkungen zu
reduzieren", erklärt Michael Bruch, Head of Emerging Trends bei der
AGCS.
Schon heute können sogenannte "schwache" KI-Anwendungen bestimmte
Aufgaben wie das Erkennen von Texten ausführen. In Zukunft werden
"starke" KI-Anwendungen sogar in der Lage sein, autonome Fahrzeuge zu
steuern, genauere Wettervorhersagen zu treffen, Krankheiten zu
diagnostizieren, Finanzgeschäfte durchzuführen oder
Industriemaschinen zu bedienen und zu überwachen. KI tritt häufig in
Verbindung mit anderen neuen Technologien auf, wie dem Internet der
Dinge, der Datenanalytik oder der Blockchain. Laut Accenture könnte
KI die jährliche Wirtschaftswachstumsrate in zwölf Industrienationen
bis 2035 verdoppeln.
KI-Risiken bei Cyber und autonomen Fahren
Diese potenziellen Vorteile haben jedoch ihren Preis. KI erhöht
die ohnehin wachsende Gefahr durch Cyberrisiken weiter, die laut dem
Allianz Risk Barometer 2018 bereits eine der grössten Bedrohungen für
Unternehmen darstellen: So könnte KI-gestützte Software zwar
einerseits das Cyberrisiko für Unternehmen durch eine bessere
Erkennung von Angriffen reduzieren, andererseits aber ebensolche
Angriffe erleichtern, weil Planung und Durchführung einfacher werden.
Ein- und derselbe Hackerangriff - oder alternativ auch ein
Programmierungsfehler - könnten auf zahlreichen Rechnern repliziert
werden. Dadurch werden grosse globale Cybervorfälle wahrscheinlicher,
die laut Lloyds Schäden in Höhe von mehr als 50 Mrd. US-Dollar
verursachen könnten.
Im Bereich Mobilität werden hohe Erwartungen in KI-Anwendungen
gesetzt. Selbstfahrende Autos sollen menschliche Fehler als
Hauptursache für Unfälle beseitigen und KI in Verkehrsleitsystemen
den Verkehrsfluss besser steuern. Allerdings ist noch weithin
ungeklärt, wer bei Unfällen haftbar ist und welche ethischen
Grundsätze autonome Fahrzeuge in Dilemma-Situationen befolgen sollen,
wenn Gesundheit und Leben anderer Verkehrsteilnehmer auf dem Spiel
stehen.
Fünf Risikofaktoren von KI
Um entstehende KI-Risiken zu ermitteln, konzentriert sich AGCS auf
fünf Bereiche: Softwareverfügbarkeit, Sicherheit, Verantwortlichkeit,
Haftung und Ethik. "Eine verantwortungsbewusste Entwicklung und
Einführung von KI muss diese Faktoren berücksichtigen", fordert
Bruch. In Bezug auf die Sicherheit könnte beispielsweise das Rennen
um die schnelle Markteinführung von KI-Systemen dazu führen, dass
Überprüfungen nur unzureichend durchgeführt werden und so keine
sicheren und funktionalen KI-Anwendungen gewährleistet sind. Dies
könnte wiederum mehr Produktmängel und -rückrufe auslösen. Was die
Frage der Haftung betrifft, könnten intelligente KI-Agenten zwar
künftig dem Menschen viele Entscheidungen abnehmen, dafür aber
rechtlich nicht zur Verantwortung gezogen werden. In der Regel haftet
der Hersteller oder Softwareprogrammierer von KI-Agenten für Fehler,
die bei Nutzern Schäden verursachen. Für auf KI basierende
Entscheidungen, die sich nicht direkt auf das Design oder die
Herstellung zurückführen lassen, die aber von einem KI-Agenten
aufgrund seiner Interpretation der Realität getroffen werden, könnte
nach aktuell geltendem Recht allerdings niemand explizit haftbar
gemacht werden. "Wenn die Anzahl der durch KI hervorgerufenen Schäden
zunimmt, kann es schnell teuer werden und langwierig sein, die
Entscheidungsfindung den Gerichten zu überlassen", meint Bruch. "Wir
brauchen Expertengremien, die die rechtliche Eintrittspflicht klären
und einen Haftungsrahmen ausarbeiten, der Designer, Hersteller oder
Verkäufer von KI-Produkten einer beschränkten Delikthaftung
aussetzt."
Der Versicherungsbranche kommt eine wesentliche Rolle zu, wenn es
darum geht, neue Risiken durch KI-Anwendungen zu minimieren oder
abzusichern. Traditionelle Deckungen müssen angepasst werden, um
sowohl Privatpersonen als auch Unternehmen entsprechend zu schützen.
Versicherer müssen Unternehmen für solche Gefahren wie Cyberangriffe,
Geschäftsunterbrechungen, Produktrückrufe und Reputationsschäden
bessere Lösungen bieten können. Zudem werden sich wahrscheinlich neue
Haftpflichtversicherungsmodelle durchsetzen, die Hersteller und
Softwareanbieter stärker in die Pflicht nehmen und die
Gefährdungshaftung von Verbrauchern einschränken.
Versicherer als frühe Anwender von KI
Die Versicherungsbranche zählt aufgrund der großen Datenmengen und
wiederkehrenden Prozesse zu den Branchen, die stark auf maschinelles
Lernen setzen. "KI hat enormes Potenzial für Versicherer. Anfangs
wird sie die Automatisierung von Prozessen unterstützen, um die
Policenausstellung oder Schadenabwicklung für die Kunden zu
beschleunigen und zu verbessern", erklärt Bruch. AGCS setzt bereits
Roboter ein, um Dateneingaben in Systeme durchzuführen, und testet
"Bots", die die eingehende Briefpost, Emails oder auch Anrufe
automatisch klassifizieren und weiterbearbeiten.
Durch KI-unterstützte Datenanalysen werden Versicherer und ihre
Kunden zudem ein wesentlich besseres Verständnis der Risiken
erlangen, so dass diese effektiver verringert oder über neue
Versicherungslösungen absichert werden können. Nicht zuletzt wird KI
auch die Beziehung zwischen Versicherer und ihren Kunden verändern,
weil sie beispielsweise Self-Service-Angebote oder Beratung rund um
die Uhr ermöglicht.
Hinweis an die Redaktionen:
Die Studie ist unter diesem Link http://ots.ch/5sFdSF verfügbar.
Originaltext: Allianz Suisse
Digitale Medienmappe: http://www.presseportal.ch/de/nr/100008591
Medienmappe via RSS: http://www.presseportal.ch/de/rss/pm_100008591.rss2
Kontakt:
Heidi Polke-Markmann
Tel.: +49 89 3800 14303, Mail: heidi.polke@allianz.com
Daniel Aschoff
Tel.: +49 89 3800 18990, Mail: daniel.aschoff@allianz.com
Bernd de Wall
Tel.: +41 58 358 84 14; Mail: bernd.dewall@allianz.ch
- Künstliche Intelligenz (KI) macht Unternehmen anfälliger für
Grossschäden durch Cyberangriffe und technisches Versagen
- Verantwortung verlagert sich vom Menschen auf die Maschine:
Unternehmen sehen sich vor neuen, vielfach noch ungeklärten
Haftungsfragen
- Maximierung des Nettonutzens von KI durch vorausschauendes
Risikomanagement mit Fokus auf fünf Bereiche:
Softwareverfügbarkeit, Sicherheit, Verantwortlichkeit, Haftung
und Ethik
- Versicherungsbranche nutzt KI zur Automatisierung von
Prozessen, Risikoanalyse und besseren Kundeninteraktion
Chatbots, selbstfahrende Autos und vernetzte Maschinen in
digitalen Fabriken lassen erahnen, wie unsere Zukunft einmal aussehen
wird. Der Einsatz von Künstlicher Intelligenz (KI) bringt Unternehmen
viele Vorteile wie höhere Effizienz, weniger repetitive Aufgaben und
einen besseren Kundenservice. Gelangt die Technologie jedoch in die
falschen Hände, könnten die potenziellen Gefahren den grossen Nutzen
schnell nivellieren. So steigert die allgegenwärtige Vernetzung die
Anfälligkeit gegenüber böswilligen Cyberangriffen oder technischem
Versagen, die zu grossflächigen Ausfällen und enormen finanziellen
Verlusten führen können. Unternehmen sehen sich zudem mit neuartigen
Haftungsfragen konfrontiert, da sich die Verantwortung für Handlungen
vom Menschen auf die Maschine verlagert.
In ihrer neuen Studie "The Rise of Artificial Intelligence: Future
Outlook and Emerging Risks" identifiziert die Allianz Global
Corporate & Specialty (AGCS) einerseits die Vorteile der zunehmenden
Implementierung von KI in Wirtschaft und Gesellschaft, weist aber
auch auf entstehende Risiken durch die neue Technologie hin. Bei KI,
auch als maschinelles Lernen bekannt, handelt es sich um Software,
die in der Lage ist, wie ein Mensch zu denken und zu entscheiden.
"Egal ob für Wirtschaft, Politik, Mobilität, Gesundheit, Verteidigung
oder Umwelt, KI bringt vielfältige Vorteile, aber auch potenzielle
Risiken mit sich. Wir brauchen dringend vorbeugende Massnahmen zur
Risikominderung, um den Nettonutzen bei der breiten Einführung von
KI-Anwendungen zu maximieren und unbeabsichtigte Nebenwirkungen zu
reduzieren", erklärt Michael Bruch, Head of Emerging Trends bei der
AGCS.
Schon heute können sogenannte "schwache" KI-Anwendungen bestimmte
Aufgaben wie das Erkennen von Texten ausführen. In Zukunft werden
"starke" KI-Anwendungen sogar in der Lage sein, autonome Fahrzeuge zu
steuern, genauere Wettervorhersagen zu treffen, Krankheiten zu
diagnostizieren, Finanzgeschäfte durchzuführen oder
Industriemaschinen zu bedienen und zu überwachen. KI tritt häufig in
Verbindung mit anderen neuen Technologien auf, wie dem Internet der
Dinge, der Datenanalytik oder der Blockchain. Laut Accenture könnte
KI die jährliche Wirtschaftswachstumsrate in zwölf Industrienationen
bis 2035 verdoppeln.
KI-Risiken bei Cyber und autonomen Fahren
Diese potenziellen Vorteile haben jedoch ihren Preis. KI erhöht
die ohnehin wachsende Gefahr durch Cyberrisiken weiter, die laut dem
Allianz Risk Barometer 2018 bereits eine der grössten Bedrohungen für
Unternehmen darstellen: So könnte KI-gestützte Software zwar
einerseits das Cyberrisiko für Unternehmen durch eine bessere
Erkennung von Angriffen reduzieren, andererseits aber ebensolche
Angriffe erleichtern, weil Planung und Durchführung einfacher werden.
Ein- und derselbe Hackerangriff - oder alternativ auch ein
Programmierungsfehler - könnten auf zahlreichen Rechnern repliziert
werden. Dadurch werden grosse globale Cybervorfälle wahrscheinlicher,
die laut Lloyds Schäden in Höhe von mehr als 50 Mrd. US-Dollar
verursachen könnten.
Im Bereich Mobilität werden hohe Erwartungen in KI-Anwendungen
gesetzt. Selbstfahrende Autos sollen menschliche Fehler als
Hauptursache für Unfälle beseitigen und KI in Verkehrsleitsystemen
den Verkehrsfluss besser steuern. Allerdings ist noch weithin
ungeklärt, wer bei Unfällen haftbar ist und welche ethischen
Grundsätze autonome Fahrzeuge in Dilemma-Situationen befolgen sollen,
wenn Gesundheit und Leben anderer Verkehrsteilnehmer auf dem Spiel
stehen.
Fünf Risikofaktoren von KI
Um entstehende KI-Risiken zu ermitteln, konzentriert sich AGCS auf
fünf Bereiche: Softwareverfügbarkeit, Sicherheit, Verantwortlichkeit,
Haftung und Ethik. "Eine verantwortungsbewusste Entwicklung und
Einführung von KI muss diese Faktoren berücksichtigen", fordert
Bruch. In Bezug auf die Sicherheit könnte beispielsweise das Rennen
um die schnelle Markteinführung von KI-Systemen dazu führen, dass
Überprüfungen nur unzureichend durchgeführt werden und so keine
sicheren und funktionalen KI-Anwendungen gewährleistet sind. Dies
könnte wiederum mehr Produktmängel und -rückrufe auslösen. Was die
Frage der Haftung betrifft, könnten intelligente KI-Agenten zwar
künftig dem Menschen viele Entscheidungen abnehmen, dafür aber
rechtlich nicht zur Verantwortung gezogen werden. In der Regel haftet
der Hersteller oder Softwareprogrammierer von KI-Agenten für Fehler,
die bei Nutzern Schäden verursachen. Für auf KI basierende
Entscheidungen, die sich nicht direkt auf das Design oder die
Herstellung zurückführen lassen, die aber von einem KI-Agenten
aufgrund seiner Interpretation der Realität getroffen werden, könnte
nach aktuell geltendem Recht allerdings niemand explizit haftbar
gemacht werden. "Wenn die Anzahl der durch KI hervorgerufenen Schäden
zunimmt, kann es schnell teuer werden und langwierig sein, die
Entscheidungsfindung den Gerichten zu überlassen", meint Bruch. "Wir
brauchen Expertengremien, die die rechtliche Eintrittspflicht klären
und einen Haftungsrahmen ausarbeiten, der Designer, Hersteller oder
Verkäufer von KI-Produkten einer beschränkten Delikthaftung
aussetzt."
Der Versicherungsbranche kommt eine wesentliche Rolle zu, wenn es
darum geht, neue Risiken durch KI-Anwendungen zu minimieren oder
abzusichern. Traditionelle Deckungen müssen angepasst werden, um
sowohl Privatpersonen als auch Unternehmen entsprechend zu schützen.
Versicherer müssen Unternehmen für solche Gefahren wie Cyberangriffe,
Geschäftsunterbrechungen, Produktrückrufe und Reputationsschäden
bessere Lösungen bieten können. Zudem werden sich wahrscheinlich neue
Haftpflichtversicherungsmodelle durchsetzen, die Hersteller und
Softwareanbieter stärker in die Pflicht nehmen und die
Gefährdungshaftung von Verbrauchern einschränken.
Versicherer als frühe Anwender von KI
Die Versicherungsbranche zählt aufgrund der großen Datenmengen und
wiederkehrenden Prozesse zu den Branchen, die stark auf maschinelles
Lernen setzen. "KI hat enormes Potenzial für Versicherer. Anfangs
wird sie die Automatisierung von Prozessen unterstützen, um die
Policenausstellung oder Schadenabwicklung für die Kunden zu
beschleunigen und zu verbessern", erklärt Bruch. AGCS setzt bereits
Roboter ein, um Dateneingaben in Systeme durchzuführen, und testet
"Bots", die die eingehende Briefpost, Emails oder auch Anrufe
automatisch klassifizieren und weiterbearbeiten.
Durch KI-unterstützte Datenanalysen werden Versicherer und ihre
Kunden zudem ein wesentlich besseres Verständnis der Risiken
erlangen, so dass diese effektiver verringert oder über neue
Versicherungslösungen absichert werden können. Nicht zuletzt wird KI
auch die Beziehung zwischen Versicherer und ihren Kunden verändern,
weil sie beispielsweise Self-Service-Angebote oder Beratung rund um
die Uhr ermöglicht.
Hinweis an die Redaktionen:
Die Studie ist unter diesem Link http://ots.ch/5sFdSF verfügbar.
Originaltext: Allianz Suisse
Digitale Medienmappe: http://www.presseportal.ch/de/nr/100008591
Medienmappe via RSS: http://www.presseportal.ch/de/rss/pm_100008591.rss2
Kontakt:
Heidi Polke-Markmann
Tel.: +49 89 3800 14303, Mail: heidi.polke@allianz.com
Daniel Aschoff
Tel.: +49 89 3800 18990, Mail: daniel.aschoff@allianz.com
Bernd de Wall
Tel.: +41 58 358 84 14; Mail: bernd.dewall@allianz.ch