TATuP – Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis
Not a member yet
3192 research outputs found
Sort by
Trust in technology: Ethical contributions to technology assessment beyond acceptance and acceptability?
Get PDFDer Beitrag lotet aus, inwiefern über den Begriff „Technikvertrauen“ komplementär zu den in der Technikfolgenabschätzung bereits etablierten Begriffen „Akzeptanz“ und „Akzeptabilität“ ein konzeptueller Beitrag für eine ethische Technikbewertung geleistet werden kann. Es wird gezeigt, dass gerade für Digitaltechniken Aspekte der Angriffssicherheit besser adressiert werden können, weil hier an die Begrifflichkeiten der IT-Sicherheitsforschung angeschlossen werden kann. Zudem erlaubt „vertrauenswürdige Technik“ eine bessere Einbeziehung von Laienperspektiven, da ein rational begründetes Vertrauen im Sinne von Risikoerwartungen interpersonell durch Expertisen vermittelt werden kann. Insbesondere für die Bewertung von Digitaltechniken kann „Technikvertrauen“ somit eine Lücke zwischen Akzeptanz und Akzeptabilität schließen.This article explores the potential for “trust in technology” to make a productive conceptual contribution to the ethical evaluation of technology, complementing the concepts of “acceptance” and “acceptability” already established in technology assessment. It shows that for digital technologies in particular, “trust” can better address aspects of security against attacks as it allows to integrate concepts of IT security. Furthermore, “trustworthy technology” allows for a better inclusion of lay perspectives, since rationally justified trust in the sense of risk expectations can be mediated interpersonally by experts. Especially for the evaluation of digital technologies, “trust in technology” can thus bridge a conceptual gap between acceptance and acceptability
New sequencing methods: New data and new challenges
Get PDFDie Sequenzierung von DNA gehört heute zum Standardrepertoire der biologischen und medizinischen Forschung. Das um die Mitte der 2000er Jahre etablierte Next Generation Sequencing (NGS) war der wichtigste Auslöser für diese Entwicklung. NGS führte zu großen Erkenntnisgewinnen in den molekularen Biowissenschaften. Die neue Technologie liefert allerdings Daten, die Wissenschaft und Gesellschaft vor neue Herausforderungen stellen. Schon jetzt lässt sich in diesem Feld eine technikgetriebene Eigendynamik feststellen, die zu Transformationsprozessen in der Wissenschaft führt, wo sich neue Forschungsfelder herausbilden, aber auch in der Gesellschaft, in der Fragen von Identität zunehmend anhand von genetischen Analysen verhandelt werden.Today, DNA sequencing is part of the standard repertoire of biological and medical research. Next generation sequencing (NGS), established around the mid-2000s, was the main catalyst for this development. NGS has led to major knowledge gains in the molecular life sciences. However, the new technology provides data that pose new challenges that both science and society still must learn to deal with. A technology-driven dynamic can already be observed in this field, leading to transformation processes in science, where new fields of research are emerging, but also in society, where questions of identity are increasingly being negotiated based on genetic analyses
Trustworthy artificial intelligence: Selected practical projects and reasons for the implementation deficit
Get PDFWährend es inzwischen eine ganze Reihe praktischer Leitfäden für die Implementierung des Konzepts der vertrauenswürdigen künstlichen Intelligenz (KI) gibt, fehlt es an konkreten Beispielen und Projekten für Umsetzungen, anhand derer sich Probleme und Erfolgsstrategien der Akteur*innen vor Ort aufzeigen ließen. Dieser Beitrag stellt ausgewählte Umsetzungsprojekte vor. Durchweg zeigt sich dabei ein noch geringer Grad an Konkretisierung. Deshalb wird anschließend nach den Gründen für das Umsetzungsdefizit gefragt. Drei Erklärungen kommen infrage: Time-to-Market-Überlegungen aufseiten der Unternehmen, Unklarheit darüber, welche Aspekte des Konzepts der vertrauenswürdigen KI bei welchen Anwendungen überhaupt relevant sind sowie die Tatsache, dass die Umsetzung von KI‑Projekten komplexer ist als die Umsetzung ‚normaler‘ Software-Projekte und deshalb spezifische Vorkehrungen notwendig sind.While there are now a number of practical guides for implementing the concept of trustworthy artificial intelligence (AI), there is a lack of concrete examples and projects for implementations that could be used to highlight problems and success strategies of actors in the field. This paper presents selected implementation projects showing that the degree of concretization is still low throughout. Therefore, the reasons for the implementation deficit are then explored. There are three possible explanations: time-to-market considerations on the part of the companies, lack of clarity about which aspects of the concept of trustworthy AI are relevant at all for which applications, and the fact that the implementation of AI projects is more complex than the implementation of ‘normal’ software projects and thus requires specific arrangements
“Don’t let me be misunderstood”: Critical AI literacy for the constructive use of AI technology
Get PDFGesellschaftlicher Diskurs sowie Forschung und Entwicklung zu Risiken künstlicher Intelligenz (KI) fokussieren oft einseitig entweder auf praxisferne ethische Aspekte oder auf technokratische Ansätze zur Bewältigung gesellschaftlicher Risiken allein durch Technologie. Es bedarf jedoch praktikabler, problemorientierter Perspektiven. Dieser Beitrag konzentriert sich daher auf ein zentrales Meta-Risiko von KI‑Systemen: Deep Automation Bias. Es wird davon ausgegangen, dass Diskrepanzen zwischen Systemverhalten und Nutzungspraktiken in bestimmten Anwendungskontexten aufgrund KI‑basierter Automatisierung zentrale Auslöser von Bias und gesellschaftlichen Risiken sind. Der Beitrag stellt zentrale Faktoren von (Deep) Automation Bias vor und entwickelt einen analytischen Rahmen mit Indikatoren zur Erkennung von Diskrepanzen in KI‑Systemen. Dieser Ansatz will durch Stärkung von Problembewusstsein und kritischer KI-Kompetenz auch praktischen Nutzen erzielen.Research and development as well as societal debates on the risks of artificial intelligence (AI) often focus on crucial but impractical ethical issues or on technocratic approaches to managing societal and ethical risks with technology. To overcome this, more practical, problem-oriented analytical perspectives on the risks of AI are needed. This article proposes an approach that focuses on a meta-risk inherent in AI systems: deep automation bias. It is assumed that the mismatch between system behavior and user practice in specific application contexts due to AI‑based automation is a key trigger for bias and other societal risks. The article presents the main factors of (deep) automation bias and outlines a framework providing indicators for the detection of deep automation bias ultimately triggered by such a mismatch. This approach intends to strengthen problem awareness and critical AI literacy and thereby create some practial use
