Software

Unternehmen wünschen sich beim Thema KI mehr Kontrolle ​

Wenn Unternehmen über den Einsatz Künstlicher Intelligenz nachdenken, müssen sie sich mit grundlegenden Fragen beschäftigen: Wie können die Verantwortlichen Entscheidungen, die eine KI-Anwendung trifft, transparent gestalten? Wie beherrschen sie mögliche Risiken des KI-Einsatzes? Die Antworten darauf sind wesentlich für die Akzeptanz der Technologie durch Verbraucherinnen und Verbraucher. Der IT-Dienstleister adesso hat im Rahmen einer repräsentativen Studie KI-Experten in Unternehmen zum Thema „Trustworthy AI“ befragt. Demnach glaubt die Mehrheit, dass KI bei Kundinnen und Kunden einen Vertrauensvorschuss genießt. Gleichzeitig wünschen sich die Teilnehmenden der Studie mehr Kontrollmechanismen. ​

Ob es um die Suche nach neuen Werkstoffen, das Finden von betrügerischen Abrechnungen oder die autonome Autofahrt geht: Tausende von Anwendungsfällen quer durch alle Branchen zeigen bereits, welches geballte Potenzial in KI steckt. Einige der Entscheidungen auf Basis intelligenter Algorithmen beeinflussen das Leben von Menschen auf unmittelbare Art. Beispielsweise wenn sich die Empfehlung einer Assistenz-Software auf die Personalauswahl auswirkt. Oder dafür sorgt, dass eine Bank einen Kreditantrag ablehnt. In diesen Fällen müssen die Verantwortlichen Licht ins Dunkel der KI-Entscheidungen bringen. Das reicht von der Herkunft und Charakteristika der Trainingsdaten, die eine KI nutzt, über die Durchschaubarkeit und Verständlichkeit des Algorithmus bis hin zum Einhalten regulatorischer Vorgaben sowie ethischer Grundwerte. Eine Transparenz von KI fordert auch der EU Artificial Intelligence Act von April 2021. Dieser besagt, dass Nutzerinnen und Nutzer ein Recht darauf haben, informiert zu werden, mit welcher Art von KI sie interagieren. 

adesso hat 500 Entscheiderinnen und Entscheider, die in Unternehmen mit KI-Anwendungen arbeiten und die Systeme entwickeln, zum Thema Trustworthy AI befragt: Wie wichtig ist eine vertrauenswürdige KI? Wie schätzen sie die Haltung der Nutzer gegenüber KI-Anwendungen ein? Wie sehen sie den Regulierungsbedarf? 

Die wichtigsten Erkenntnisse der Studie:  

  • Großes Vertrauen in KI. Die Mehrheit hat hohe Erwartungen an die Anwendung. So erhoffen sich 88 %, durch den Einsatz von KI bessere Entscheidungen treffen zu können. Genauso optimistisch sind die Teilnehmenden der Studie bei der Frage, wie Anwendende zu der Technologie stehen. 61 % sind davon überzeugt, dass Verbraucherinnen und Verbraucher KI als grundlegend vertrauenswürdig einstufen. 
  • Regulation erwünscht. Trotzdem finden 80 % der Befragten, KI sollte grundsätzlich nicht ohne menschliche Kontrolle eingesetzt werden. 54 % sind zudem der Meinung, dass das Nutzen von KI-Technologien stärker reguliert werden sollte. Im Banken- und Finanzdienstleisterumfeld unterstützen sogar 75 % diese Forderung. 70% aller Befragten halten darüber hinaus das Etablieren eines internen KI-Ethikgremiums für sinnvoll. Besonders populär ist die Idee eines eigenen Expertinnen- und Expertenrats im Gesundheitswesen (87 %) und in der öffentlichen Verwaltung (83 %).
  • KI am Arbeitsplatz. Aus Sicht der Studienteilnehmenden müssen Unternehmen die Mitarbeitenden stärker in KI-Projekte einbeziehen. Nur so entwickeln sie das nötige Vertrauen in die Technologie. 70 % der Befragten sehen eine große Herausforderung darin, die eigene Belegschaft auf die Zusammenarbeit mit KI-Anwendungen vorzubereiten. Besonders kritisch bewerten die Studienteilnehmenden aus der Automotive-Branche die Situation: Hier befürchten 91 %, dass es schwierig wird, die eigenen Teams von der Mensch-Maschine-Kooperation zu überzeugen. 

„Unsere Analyse gibt einen erstaunlich klaren Einblick, wie und wohin sich die KI-Regulierung nach Ansicht der befragten Expertinnen und Experten entwickeln soll. Zwar unterstellen die Teilnehmenden den Verbraucherinnen und Verbrauchern – ob nun berechtigt oder nicht – einen großen Vertrauensvorschuss gegenüber KI. Trotzdem sehen sie die Notwendigkeit, strenge Sicherheitsregeln umzusetzen und die Einhaltung ethischer Standards zu kontrollieren“, erklärt Benedikt Bonnmann, Leiter des Geschäftsbereichs Data & Analytics bei adesso. „Das ist auch dringend notwendig. Um der Technologie zu vertrauen, müssen die Menschen genau wissen und verstehen, was KI ist, was sie tut und welche Auswirkungen die gefällten Entscheidungen haben. Unternehmen, die diese Technologie einsetzen, sollten größten Wert darauflegen, dass die eingesetzte KI transparent und vertrauenswürdig arbeitet.“

adesso führte gemeinsam mit der Kölner Marktforschungsagentur heute & morgen im Mai 2022 eine Umfrage zum Thema „Trustworthy AI“ durch. Dabei wurden 500 Entscheiderinnen und Entscheider in Deutschland, die in Unternehmen mit KI-Anwendungen arbeiten, befragt. 

Die Studie ist kostenfrei per Download erhältlich: https://ki.adesso.de/de/topics/trustworthy-ai.html

Weitere Informationen unter https://www.adesso.de/ sowie:
Unternehmens-Blog: https://www.adesso.de/de/news/blog
LinkedIn: https://www.linkedin.com/company/adesso-se
Twitter: https://twitter.com/adesso_SE
Facebook: http://www.facebook.com/adessoSE

Über adesso SE

adesso ist einer der führenden IT-Dienstleister im deutschsprachigen Raum und konzentriert sich mit Beratung sowie individueller Softwareentwicklung auf die Kerngeschäftsprozesse von Unternehmen und öffentlichen Verwaltungen. Die Strategie von adesso beruht auf drei Säulen: einem umfassenden Branchen-Know-how der Mitarbeitenden, einer breiten, herstellerneutralen Technologiekompetenz und erprobten Methoden bei der Umsetzung von Softwareprojekten. Mit passgenauen IT-Lösungen stärkt adesso die Wettbewerbsfähigkeit von Unternehmen und Organisationen in den Zielbranchen Versicherungen/Rückversicherungen, Banken und Finanzdienstleistung, Gesundheitswesen und Life Sciences, Energieversorgung, Öffentliche Verwaltung, Automotive und Fertigungsindustrie, Handel, Verkehrsbetriebe, Medien und Entertainment sowie Lotterie.

adesso wurde 1997 in Dortmund gegründet und beschäftigt aktuell in der adesso Group über 6.800 Mitarbeiterinnen und Mitarbeiter (nach Vollzeitäquivalent/FTE), was mehr als 7.500 Mitarbeitenden nach Köpfen entspricht. Die Aktie von adesso ist im Prime Standard/SDAX notiert. Zu den wichtigsten Kunden zählen im Bankensegment u.a. Commerzbank, KfW, DZ Bank, Helaba, Union Investment, BayernLB und DekaBank, im Versicherungsbereich u.a. Münchener Rück, Hannover Rück, DEVK, DAK, Zurich Versicherung, Medizinischer Dienst der Krankenversicherung (MDK-IT) sowie branchenübergreifend u.a. Mercedes-Benz, Bosch, Westdeutsche Lotterie, Swisslos, DZR Deutsches Zahnärztliches Rechenzentrum, TÜV Rheinland, REWAG, Beschaffungsamt des Bundesministeriums des Innern und Bayerisches Staatsministerium der Justiz.

Firmenkontakt und Herausgeber der Meldung:

adesso SE
Adessoplatz 1
44269 Dortmund
Telefon: +49 (231) 70007000
Telefax: +49 (231) 7000-1000
http://www.adesso.de

Ansprechpartner:
Eva Wiedemann
adesso SE
Telefon: +49 (162) 2921282
E-Mail: eva.wiedemann@adesso.deâ
Christina Haslbeck
PR-COM GmbH
Telefon: +49 (89) 59997-702
E-Mail: christina.haslbeck@pr-com.de
Für die oben stehende Pressemitteilung ist allein der jeweils angegebene Herausgeber (siehe Firmenkontakt oben) verantwortlich. Dieser ist in der Regel auch Urheber des Pressetextes, sowie der angehängten Bild-, Ton-, Video-, Medien- und Informationsmaterialien. Die United News Network GmbH übernimmt keine Haftung für die Korrektheit oder Vollständigkeit der dargestellten Meldung. Auch bei Übertragungsfehlern oder anderen Störungen haftet sie nur im Fall von Vorsatz oder grober Fahrlässigkeit. Die Nutzung von hier archivierten Informationen zur Eigeninformation und redaktionellen Weiterverarbeitung ist in der Regel kostenfrei. Bitte klären Sie vor einer Weiterverwendung urheberrechtliche Fragen mit dem angegebenen Herausgeber. Eine systematische Speicherung dieser Daten sowie die Verwendung auch von Teilen dieses Datenbankwerks sind nur mit schriftlicher Genehmigung durch die United News Network GmbH gestattet.

counterpixel