Unsere Forschung

Auswirkungen KI-unterstützter Systeme auf die Arbeitsgestaltung

Bisherige Arbeiten zu künstlicher Intelligenz (KI) am Arbeitsplatz konzentrieren sich primär auf ethische und rechtliche Aspekte und betrachten in der Regel Gig-Arbeit. Die Auswirkung von KI auf die Arbeitsgestaltung in der Wissensarbeit wurde bisher weitgehend vernachlässigt. In dem Projekt erforschen wir daher die potentiellen positiven und negativen Auswirkungen von KI auf zentrale Arbeitsmerkmale von Wissensarbeiter:innen. Zudem wird untersucht, inwiefern persönliche Fähigkeiten Beschäftigte im Umgang mit KI unterstützen. Dazu werden eine Delphi-Studie und ein Online-Experiment durchgeführt. Beide Methoden dienen der Identifikation potentieller Auswirkungen von KI auf die Arbeitsgestaltung und die Beschäftigten. Das Online-Experiment untersucht weiters die Rolle persönlicher Fähigkeiten im Umgang mit KI. Aus den Ergebnissen werden Empfehlungen zur menschengerechten Gestaltung der Arbeit mit KI-Systemen und zu Schulungsmöglichkeiten abgeleitet und in Form eines Handbuchs aufbereitet.

Projektleiterin: Prof. Bettina Kubicek

Laufzeit: 01.02.2023 - 30.09.2024

Förderung: AK Wien

Die Art und Weise wie Menschen sich auf Stellen bewerben hat sich deutlich geändert und als Antwort setzen Unternehmen Chatbots immer häufiger in ihren Bewerbungsprozessen ein. Chatbots unterstützen dabei primär die Vorauswahl und die Sammlung von Daten über Bewerber*innen. Es ist allerdings noch weitestgehend unklar, wie man diese Daten für Personalist*innen aufbereiten muss, so das faire, transparente und zurechnungsfähige Entscheidungen getroffen werden.

In diesem Projekt wird in einer Designstudie ein Dashboard für die Visualisierung von großen und durch Chatbots gesammelten Datenmengen für Personalist*innen entwickelt.

Projektleitung: Univ.-Prof. Dr. Bettina Kubicek, Univ.-Prof. Dr. Stefan Thalmann Team: Christine Malin, MA, Rita Prassl, BSc

Finanzierung: Exzellenzförderung Smart Regulation

AutoML zwischen Zukunftspotenzialen und neuen Herausforderungen: Ein Spannungsfeld von Ethik, Technik und Wirtschaft

Dieses interdisziplinäre Forschungsprojekt will die gesellschaftlichen, politischen und wirtschaftlichen Auswirkungen technologischer Innovationen, insbesondere im Bereich der Künstlichen Intelligenz (KI), beleuchten. Besonderes Augenmerk liegt dabei auf der Automatisierung des maschinellen Lernens (AutoML) und den damit einhergehenden Veränderungen, insbesondere im Bereich des Designs von ML-Systemen als auch im Kontext der Einbindung in Unternehmensprozesse und deren konkrete Anwendung durch Fachexpert:innen. Um dieses Vorhaben zu bearbeiten, werden Ethik und Business Analytics and Data Science im Rahmen dieses Projekts intensiv zusammenarbeiten, um Expertisen aus unterschiedlichen Fachdiskursen einzubringen und um die im Kontext der mit AutoML verbundenen Herausforderungen möglichst breit bearbeiten zu können. Die erarbeiteten Projektziele umfassen die Erhebung des aktuellen Standes des Einsatzes von AutoML in der steirischen Wirtschaft, die Durchführung einer Risiko- und Potentialanalyse sowie die Erstellung eines Handlungsleitfadens. Dies soll dazu beitragen, ethische Aspekte von AutoML-Anwendungen in konkreten Einsatzkontexten zu berücksichtigen und eine ethische Regulierung im Rahmen der digitalen Transformation voranzutreiben.

Projektleitung: Univ.-Prof. Thomas Gremsl, Univ.-Prof. Stefan Thalmann, Team: Anna Polzer, BSc MSc, Dominik Freinhofer, MA

Finanzierung: Land Steiermark

Kartellrechtsverstöße in ihren unterschiedlichen Ausprägungen führen zu erheblichen Kosten und Nachteilen für MitbewerberInnen, KundInnen und die Allgemeinheit. Die Aufdeckung solcher Verstöße ist häufig schwierig, da sie regelmäßig im Verborgenen geschehen. Im Zuge der Digitalisierung sind allerdings oft große Datenmengen öffentlich verfügbar, die Anhaltspunkte auf (potenzielle) Kartellrechtsverstöße geben können.

Das neue Feld des Computational Antitrust nutzt diese Daten, um solche Anhaltspunkte zu erkennen. Während es erste Fallstudien und Diskussionen in der wissenschaftlichen Literatur gibt, bleiben sowohl aus rechtlicher als auch aus wirtschaftsanalytischer Sicht eine Reihe von Fragen offen, die vom DataComp-Projekt beantwortet werden.

Konkret schafft das Projekt einen systematischen Überblick über Fallstudien zur datengetriebenen Erkennung von Kartellrechtsverstößen, die dazu benötigten Daten und die Verfügbarkeit solcher Daten in Österreich. Aufbauend auf diesen technischen Möglichkeiten untersuchen wir die rechtliche Bedeutung dieses Standes der Technik aus Sicht der österreichischen und europäischen öffentlichen Kartellrechtsdurchsetzung. Schließlich entwickeln wir einen rechtlichen Rahmen, der neue rechtliche Parameter vorgibt, welche eine stärkere Einbindung datengestützter Kartellrechtsverstoßmeldungen in die österreichischen und europäischen Vollzugsmechanismen ermöglichen würde.

Projektleitung: Univ.-Prof. Dr. Viktoria Robertson, Dr. Jürgen Fleiß, Univ.-Prof. Dr. Matthias Wendland Team: Mag. Franziska Guggi, Mag. Lukas Soritz

Finanzierung: Exzellenzförderung Smart Regulation

Ziel des Projekts ist es, die gerichtliche Zusammenarbeit in Zivilsachen zu fördern und zur effektiven und einheitlichen Anwendung und Durchsetzung von EU-Instrumenten beizutragen, insbesondere durch die Erleichterung grenzüberschreitender Verfahren in Bezug auf Beweisaufnahme und Zustellung von Dokumenten.

Laufzeit: 01.06.2022 - 31.05.2024

Beteiligte Personen: Univ.-Prof. Bettina Nunner-Krautgasser (Projektleitung Universität Graz), Mag. Tobias Weidinger, Mag. Julian Schnur.  Weitere Projektpartner: Lead Universität Maribor, Universität Wroclaw, Universität Uppsala, Universität Maastricht, Gottfried Wilhelm Leibniz Universität Hannover, Faculty of Law Rijeka.

Finanzierung: Europäische Kommission

Assistenzroboter unterstützen Einsatzkräfte bei der Bewältigung von Krisensituationen. Die Roboter dienen primär der Gewinnung von Informationen und der Manipulation von gefährlichen Objekten. Völlig autonome Systeme sind momentan jedoch weder der Akzeptanz durch die Einsatzkräfte noch dem Stand der Technik nach einsetzbar. Das Projekt EASIER fokussiert daher auf teilautonome Robotersysteme, bei denen das Ausmaß der Autonomie im Zusammenspiel zwischen Operators und Roboter adaptiert werden kann. Dabei ist das Vertrauen in das Assistenzsystem von größter Bedeutung.

Neben dem Vertrauen in das Robotersystem ist auch die kognitive Belastung, die die Benutzung des Systems verursacht, ausschlaggebend für dessen Akzeptanz durch die Einsatzkräfte. Diesbezüglich sollen in EASIER fundierte und feldtaugliche Methoden zur Messung des Vertrauens in Assistenzsystemen und der durch ihre Verwendung verursachten kognitiven Belastung entwickelt werden. Die primäre Innovation des Projektes ist, dass Vertrauen und die kognitive Belastung sowie Maßnahmen zu deren Verbesserung in einem interdisziplinären Team (Psycholog*innen, Visualisierungsexpert*innen, Robotiker*innen, Einsatzkräfte) fundiert untersucht werden.

Laufzeit: 01.08.2021­-31.07.2023

Projektleitung Universität Graz: Univ.-Prof. Bettina Kubicek

Projektpartner: Technische Universität Graz, Disaster Competence Network Austria, Berufsfeuerwehr Graz, BM f. Landesverteidigung, Rosenbauer International AG

Förderung: FFG

FIWARE Driven Energy Communities for the Future

Prosumer und Energiegemeinschaften sind Bestandteil moderner Energiesystemen und diese verfolgen teilweise andere Ziele als bisherige Akteure. Sie können detaillierte Informationen über ihren Verbrauch und ihre Erzeugung sammeln. ECom4Future macht sich diese Informationen für eine effizientere Planung und einen effizienteren Betrieb zunutze. Mit Hilfe eines menschenzentrierten, multidisziplinären Ansatzes werden wir zusätzliche Erkenntnisse darüber gewinnen, wie technische, psychologische und rechtliche Rahmenbedingungen die öffentliche Unterstützung und die Bereitschaft zu einer aktiveren Beteiligung an zukünftigen Energiesystemen beeinflussen.

Basierend auf der Analyse von gesammelten Informationen auf Kundenebene werden Leistungsprofile aus verschiedenen Quellen genutzt, um die Planung von Energiegemeinschaften und Prosumenten zu unterstützen, wobei auch psychologische und rechtliche Rahmenbedingungen berücksichtigt werden. Mit Hilfe von marktbasierten Optimierungsalgorithmen werden maßgeschneiderte Lösungen für den Aufbau, die Strukturierung und den Betrieb von komplexen Prosumer-Anlagen und Energiegemeinschaften angeboten. Durch den Einsatz von maschinellem Lernen zur Fehlererkennung und -diagnose sollen die Daten dazu dienen, die Verfügbarkeit und Sicherheit der technischen Anlagen auf Prosumer-Ebene zu verbessern. Die Bemühungen werden in den fünf internationalen ECom4Future-Versuchsanlagen und -Labors, einschließlich einer groß angelegten Versuchsanlage mit einer netzgekoppelten Batteriespeicherkapazität von 140 kWh, demonstriert und validiert. Mit der beobachtenden Teilnahme von drei Energiegemeinschaften streben wir einen kontinuierlichen Austausch von Forschungserkenntnissen und Erfahrungen aus der Praxis an.

Projektleiterin: Prof. Katja Corcoran. Weitere beteiligte Person: Prof. Maria Bertel

Laufzeit: 01.11.2023 - 30.10.2026

Förderung: FFG

Das Smart Regulation-Projekt „Emotional AI“ befasst sich mit rechtlichen und ethischen Fragen der Datafizierung menschlicher Emotionen. Insbesondere wird die Frage aufgeworfen, wie Emotionen (datenschutz)rechtlich einzuordnen sind und wie “Emotionserkennungssysteme” im Sinne des von der Europäische Kommission vorgelegten Entwurfs für einen Artificial Intelligence Act (AIA) unter dem Gesichtspunkt dieser Definition und im Hinblick auf den risikobasierten Ansatz zu bewerten sind. Wie sich zeigt, werden in diesem Kontext das „Grundrecht auf Gedankenfreiheit“ sowie die Frage des „Gemeinwohls“ relevant, insbesondere wenn derartige Systeme mit anderen, wie etwa Scoring-Modellen, kombiniert werden.

Projektleitung: Univ. Prof. Dr. Elisabeth Hödl, Univ. Prof. Dr. Thomas Gremsl, Doktorandin: Carmen Oberreßl, MA

Geplante Laufzeit: 01.02.2022-31.12.2022

Finanzierung: Exzellenzförderung Smart Regulation

Das Ausmaß der Geldwäsche wird auf etwa 4 % des weltweiten BIP geschätzt. Daher versuchen die Industrienationen ihre Finanzsysteme durch eine strengere Regulierung und Überwachung ihrer Finanzinstitute vor Geldwäsche zu schützen. In den letzten Jahren wurden viele international tätige Banken identifiziert, die unter Geldwäscheverdacht standen oder gegen regulatorische Vorschriften verstießen. Dieses Projekt zielt darauf ab, ein Gesamtbild der wichtigsten Stakeholder zu zeichnen, die an Verstößen gegen die Vorschriften zur Bekämpfung der Geldwäsche (AML) und deren Prävention beteiligt oder von diesen betroffen sind. In vier empirischen Analysen reichen die Perspektiven von Stakeholdern (Aufsichtsbehörden, Bankaktionären und Bankkunden), die eine Rolle bei der Eindämmung von AML-Verstößen und der Förderung eines soliden operationellen Risikomanagements spielen, zu konkurrierenden Banken, die von dem Fehlverhalten anderer Banken betroffen sein können, bis hin zur Rolle der (sozialen) Medien bei der Verbreitung von Nachrichten über AML-Verstöße.

Laufzeit: 01.10.2022-31.03.2026

Finanzierung: Jubiläumsfonds der OeNB (Österr. Nationalbank)

Projektleitung: Univ.-Prof. Andrea Schertler

Das Projekt "Knowledge Risks in Industry 4.0 Supply Chains: A Legal and Technical Perspective" beschäftigt sich mit organisationsübergreifendem Datenaustausch im Rahmen der Digitalisierung und damit verbundenen Risiken - im Besonderen mit dem Risiko der unbeabsichtigten Offenlegung von wettbewerbskritischem Wissen im Rahmen des Datenaustauschs.

Das Business Analytics and Data Science-Center und das Institut für Unternehmensrecht und Internationales Wirtschaftsrecht untersuchen im Zuge des Projektes gemeinsam den Schutz von Wissen in organisationsübergreifenden Lieferketten.

Laufzeit: 01.05.2019-30.04.2023

Projektleitung: Univ.-Prof. Stefan Thalmann in Zusammenarbeit mit Univ.-Prof. Johannes Zollner. Doktorand: Johannes Zeiringer

Smart Regulation-Mitglied Johannes Zeiringer hat sein Doktoratsstudium am Business Analytics and Data Science-Center im Zuge dieses Projektes im Juli 2023 erfolgreich abgeschlossen.

Förderung: Profilbereich Smart Regulation

Das interdisziplinäre Labeling-Projekt beschäftigt sich mit der Stromkennzeichnung und der damit verbundenen Rolle des Verbrauchers aus rechtlicher und betriebswirtschaftlicher Sicht. In den letzten Jahren ist es den Verbraucher*innen immer wichtiger geworden, „grünen“ Strom zu beziehen. Aus diesem Grund soll die Energiekennzeichnung (Labeling) und insbesondere die Stromkennzeichnung die Verbraucher*in in die Lage versetzen, zu beurteilen, aus welchen Quellen die bezogene Energie stammt.

Damit einhergehend soll auch eine bewusste Kaufentscheidung ermöglicht werden. Bei der Kaufentscheidung von Kund*innen spielen rechtliche Argumente bzw. Hintergründe jedoch meist kaum eine Rolle, umso mehr aber die durch Marketinginstrumente beim Kund*innen verankerten Produkteigenschaften bzw. Erwartungen an das Produkt. Im betriebswirtschaftlichen Teil des Labeling-Projekts soll daher mittels Umfragen und Interviews untersucht werden, inwiefern den Konsument*innen die rechtliche Regelung von Labeling bewusst ist und wenn ja, wie diese Kenntnis das Kaufverhalten der Konsument*innen beeinflusst.

Ebenso miteinbezogen werden sollen die Aspekte, ob die Kund*innen bei ausreichender Kenntnis bereit sind, mehr für sauberen Strom bzw grünes Gas bezogen auf die tatsächliche Herkunft zu zahlen.

Mit dem Labeling-Projekt soll ein Beitrag dazu geleistet werden, ob sich Konsument*innen durch die bestehenden Kennzeichnungsregelungen irregeführt fühlen.

Projektleitung: Univ.-Prof. Thomas Foscht, Univ.-Prof. Karl Stöger (Universität Wien) Doktorandin: Mag. Julia Mandl

Mit dem Ziel, die Einnahmen der Staaten zu erhöhen und staatliche Ressourcen zu schonen, werden derzeit in vielen Staaten – auch in Österreich – Schritte in Richtung einer Weiterentwicklung bzw Neuausrichtung des Steuervollzugs gesetzt. Dabei sollen insbesondere moderne, mit Blick auf aktuelle verhaltenswissenschaftliche Erkenntnisse „designte“ Technologien zum Einsatz gelangen. Nach den Visionen der OECD sollen Steuerpflichtige (gerade im KMU-Sektor) in naher Zukunft ihre steuerlichen Pflichten sogar nur mehr insofern „wahrnehmen“, als sie technische Geräte oder Programme zu verwenden haben, die über das Internet mit dem Staat verbunden sind.

Eine effektive und effiziente Regulierung des Vollzugs in einem Smart Regulation-Ansatz, der auch nudging, Künstliche Intelligenz (KI) und Konsensinstrumente umfasst, setzt empirisch fundierte Kenntnisse über jene Faktoren voraus, die das Verhalten bzw. die Mitwirkungsbereitschaft der Steuerpflichtigen beeinflussen. Die einschlägigen Studien der OECD dazu konzentrieren sich auf große und international agierende Unternehmen; in Staaten wie Österreich ist die Unternehmenslandschaft allerdings maßgeblich von Klein- und Mittelunternehmen (KMU) geprägt und zahlreiche betriebswirtschaftliche Studien belegen die besonderen Charakteristika von KMU. 

Das vorliegende Projekt hat zunächst zum Ziel, klarere Einsichten über das Verhalten von Steuerpflichtigen im KMU-Bereich zu gewinnen. Erwartet wird, daraus zB Schlüsse für das Design moderner Technologien in einem verfassungsrechtlich zulässigen Rahmen ziehen und die Grenzen verfassungsrechtlich zulässiger Verhaltenssteuerung besser abstecken zu können. Insgesamt gilt es für den Steuervollzug jedenfalls, eine angemessene Balance zwischen Effektivität und Effizienz auf der einen Seite und angemessener Freiheitsschonung des Einzelnen auf der anderen Seite zu finden.

In einem interdisziplinären Forschungsprojekt, in dem Vertreter:innen der Psychologie, der Rechtswissenschaften und der Betriebswirtschaftslehre zusammenarbeiten, werden Vorschläge für eine Neuregulierung des Steuervollzugs im KMU-Sektor erarbeitet, die in Österreich umgesetzt und anderen Staaten als Inspiration und Vorbild dienen können.

Geplante Laufzeit: 04/2022 – 03/2023

Projektleiterinnen: Assoz.-Prof. Dr. Barbara Gunacker-Slawitsch (Institut für Finanzrecht) & Univ.-Prof. Dr. Katja Corcoran (Institut für Psychologie)

Kooperationspartner: Assoz.-Prof. Dr. Robert Rybnicek (Institut für Unternehmensführung und Entrepreneurship)

Finanzierung: Exzellenzförderung Smart Regulation

Verantwortungsvoller Einsatz von KI im Personalwesen

Künstliche Intelligenz (KI) ist mittlerweile in vielen Anwendungsbereichen verbreitet und wird auch zunehmend im Personalwesen (HR) eingesetzt. Dort reichen die Einsatzbereiche von Bewerbungsgesprächen mithilfe von Chatbots bis hin zur automatisierten Vorauswahl von Bewerber:innen. Doch der Einsatz von KI im sensiblen HR-Bereich ist aus Sicht von Bewerber:innen nicht unproblematisch, insbesondere aufgrund mangelnder Transparenz über die Auswahlentscheidungen und die verwendeten Datengrundlagen.

Im Gegensatz zu traditionellen Algorithmen die auf vorab (und vom Menschen) definierten (Wenn-Dann)-Regeln basieren, lernen KI Systeme mithilfe von Algorithmen des maschinellen Lernens (ML) automatisch aus Daten. Diese datengesteuerte Entwicklung macht es Programmierer:innen (und Nutzer:innen) nahezu unmöglich, Verfahrensregeln gezielt zu verändern. Meist können diese nicht einmal nachvollzogen werden. Dieses eingeschränkte Wissen über die in KI letztlich angewandten Verfahrensregeln hat ihnen eine Bezeichnung als “BlackBox Systeme” eingebracht. Wenn KIs Personalentscheidungen mittragen, wissen Praktiker:innen also weder, nach welchen Regeln diese Entscheidungen zustande kommen, noch welche Elemente aus der Datengrundlage herangezogen werden. Dies birgt viele Risiken wie z.B. die ungewollte Diskriminierung von Kandidat:innen, die Gewichtung gesetzlich verbotener Kriterien (z.B. Schwangerschaft, Behinderung, Gewerkschaftszugehörigkeit) oder das Sammeln datenschutzrechtlich geschützter Informationen.

Projektleiter: Prof. Stefan Thalmann

Laufzeit: 01.10.2023 - 30.09.2024

Förderung: AK Steiermark