1,720,985 research outputs found
Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto
No full textI sistemi di intelligenza artificiale sono oggi in grado di svolgere alcuni specifici compiti, che erano stati, finora, prerogativa dei soli esseri umani. Nell’entusiasmo per i sistemi di apprendimento automatico, che hanno consentito questi genuini progressi, le grandi aziende tecnologiche hanno colto l’opportunità per un’espansione illimitata di prodotti e servizi «intelligenti». Hanno diffuso e messo in commercio, con la formula di marketing «intelligenza artificiale», sistemi di apprendimento automatico, per lo svolgimento di attività che tali sistemi non sono in grado di svolgere o che semplicemente non sono possibili. Tra i prodotti di questo genere – costitutivamente pericolosi e non funzionanti – ci sono le auto a guida autonoma, i sistemi di ottimizzazione predittiva e i generatori di linguaggio naturale.
Se la responsabilità per gli effetti ordinari di tali prodotti ricadesse sui produttori, la loro commercializzazione non sarebbe vantaggiosa. Per sfuggire alle loro responsabilità senza rinunciare a una fonte di enorme profitto, i giganti della tecnologia hanno diffuso una famiglia di narrazioni che danno forma alla percezione pubblica del rapporto tra etica, politica, diritto e tecnologia e costituiscono gli assiomi indiscussi di qualsiasi discorso pubblico. Sono così entrati a far parte del senso comune, tra gli altri, il principio di inevitabilità tecnologica, il mito dell’eccezionalismo tecnologico, il principio di innovazione e il mito del vuoto giuridico.
Alla tesi dell’eccezionalità delle nuove tecnologie, che renderebbe inapplicabili i sistemi normativi vigenti e gli ordinari criteri di attribuzione della responsabilità, si oppone oggi una crescente consapevolezza del fatto che i sistemi informatici sono artefatti, ossia prodotti, e che non c’è alcuna ragione per sottrarne la distribuzione e la commercializzazione alla legislazione ordinaria
Kant’s «Tugendlehre». A Comprehensive Commentary, edited by Andreas Trampota, Oliver Sensen and Jens Timmermann, Berlin-Boston, de Gruyter, 2013, pp. xiv-442.
No full textRecensione di Kant’s «Tugendlehre». A Comprehensive Commentary, edited by Andreas Trampota,
Oliver Sensen and Jens Timmermann, Berlin-Boston, de Gruyter, 201
L’imperativo categorico come algoritmo. Kant e l’etica delle macchine
No full textThe categorical imperative as an algorithm. Kant and machines ethics
Machine ethics can be defined as the attempt to identify a method to construct
artificial moral agents. Such an attempt is based on the metaethical assumption
that ethics can be translated into computational terms. Kant’s moral doctrine
was very early identified as one of the reference models for this attempt, due
to three characteristics: a cognitive and rationalist metaethics, the denial of the
existence of mutually alternative ethics and of moral dilemmas and the elaboration
of a logical criterion for moral judgment. With the universalisation test,
Kant presents a formulation of the categorical imperative which is based on the
principle of non-contradiction. It thus seems that this test could be translated
into an algorithm and transformed into a procedure that can be executed by
a computer system. The paper aims to show that the Kantian test cannot be
translated into an algorithm and cannot therefore provide machine ethics with
a criterion for moral judgment. Although the categorical imperative is untranslatable
in computational terms, it is nevertheless appropriate for machine ethics
to start from Kant, from a normative, a metaethical and a methodological point
of view: Kant’s idea of man as an end in himself is incorporated in the constitutional
laws of many contemporary States and constitutes a constraint on the
programming of intelligent systems. Kantian doctrine can also be a warning
against the tendency to think of machines as agents in the same sense that human
beings, rather than as things with the ability to follow programmed or learned
rules. Finally, Kant’s moral doctrine should also be considered a reminder that
a moral agent has, above all, the ability to set himself goals and to represent a
norm, to respect it or to violate it. Ongoing research on these issues can make
an important contribution to governing those systems in which artificial agents
operate, and make decisions, alongside human beings
What's wrong with "AI ethics" narratives
No full textMachine Learning (ML) systems are widely used to make decisions that affect people’s lives. Voices, faces, and emotions are classified, lives are depicted by automated statistical models and on the basis of this, decisions are made such as whether someone should be freed from or detained in prison, hired for or fired from a job, admitted to or rejected from a college or granted or denied a loan.
Certainly, basing such decisions on ML systems– which trace correlations of any kind, having no access to meaning or context– exposes people to all sorts of discrimination, abuse, and harm, since ML systems cannot identify a person's character or predict his or her future actions any better than astrology can. Large technology corporations have responded to the vast evidence of the harm and injustice generated by algorithmic decision-making with a strategy similar to that already employed by Big Tobacco, i.e., the funding of research and academic study with the function of legitimizing and ensuring that the results, the theoretical framing of the research, and even the tone, are consistent with their business model.
The family of narratives deliberately spread by tech giants– called “AI ethics”– removes the idea that labeling people as things and treating them as such is tantamount to denying them the recognition of any rights, infallibly harming weaker individuals, and thus, it should be banned.
Instead of simply refusing automated statistical decisions, they present AI ethics as a matter of algorithmic fairness and value alignment, as though the only problem were single, amendable biases; as though algorithms could be equipped with the human skills required to make moral judgments; as though the moral values embedded in ML systems could be simply chosen by engineers and translated into computational terms.
Thus, “AI ethics” narratives are based on imposture and mystification: on a false narrative – which exploits three fundamental features of magical thinking – about what machine learning systems are and are not capable of actually doing, and on a misconception of ethics.
Taken seriously, AI ethics would require artificial general intelligence (AGI).
In absence of AGI, algorithmic fairness and value alignment cannot be anything more than cargo cult ethics and ethics washing, i.e. a tool of distraction to avoid legal regulation.
The distortion of ethics, which frames AI ethics in the deterministic logic of the fait accompli, has an anti-democratic nature much like any other pretense designed for the sake of power.
It is a mystification whereby public issues of structural injustice, whose solution would be very costly for tech giants, are substituted by science fiction, and law is replaced with industry self-regulation. Turning concrete issues into abstract and empty statements, collective issues into individual duties, and political issues into technical ones, tech giants succeeds in evading democratic control and legal regulation. It leads one to believe that moral questions about the deployment of AI amount to an esoteric doctrine, a matter of trolley dilemmas and advanced mathematics, to be delegated to specialists and engineers and solved by technical adjustments, rather than a matter of monopolistic powers which should be addressed by legal tools.
Thus, “AI ethics” narratives achieve the goal, cherished by public and private oligarchies, of neutralizing social conflict by replacing political struggle with the promise of technology.
Once the mystification of “AI ethics” narratives is unveiled, a Pandora’s box will be opened of all moral questions posed by intellectual monopoly capitalism, from overcollection of personal data to exploitation, expropriation and de-humanization. It will be clear then that legal intervention is required and probably, in order to achieve it, social conflict
Omini di burro. Scuole e università al Paese dei Balocchi dell’IA generativa
No full textCome l'omino di burro del romanzo di Collodi, chi introduca nelle scuole e nelle università strumenti di "intelligenza artificiale generativa" promette agli studenti un Paese dei Balocchi in cui potranno scrivere senza aver pensato. I sistemi neoliberali – nei quali si ritiene che la didattica sia un addestramento ai test e che la valutazione delle opere dei ricercatori non ne richieda la lettura – sono già pronti a un simile annientamento dell’istruzione pubblica e alla sua sostituzione con qualche software proprietario
Do AI systems have politics? Predictive optimisation as a move away from liberalism, the rule of law and democracy
Get PDFIn predictive optimisation systems, machine learning is used to predict future outcomes of interest about individuals, and these predictions are used to make decisions about them. Despite being based on pseudoscience, not working and unfixably harmful, predictive optimisation systems are still used by private companies and by governments. As they are based on the assimilation of people to things, predictive optimisation systems have inherent political properties that cannot be altered by any technical design choice: the initial choice about whether or not to adopt them is therefore decisive, as Langdon Winner wrote about inherently political technologies. The adoption of predictive optimisation systems is incompatible with liberalism and the rule of law because it results in people not being recognised as self-determining subjects, not being equal before the law, not being able to predict which law will be applied to them, all being under surveillance as ‘suspects’ and being able or unable to exercise their rights in ways that depend not on their status as citizens, but on their contingent economic, social, emotional, health or religious status. Under the rule of law, these systems should simply be banned
L’«etica» come specchietto per le allodole Sistemi di intelligenza artificiale e violazioni dei diritti
Get PDFGiudizi e decisioni che hanno effetti rilevanti sulle vite delle persone sono oggi affidati, in un numero crescente di ambiti, a sistemi di intelligenza artificiale che non funzionano. Tali malfunzionamenti non sono occasionali e non sono scongiurabili con interventi tecnici: essi rivelano, anzi, il funzionamento ordinario dei sistemi di apprendimento automatico, utilizzati impropriamente per compiti che non è loro possibile svolgere o che sono impossibili tout court.
Le decisioni basate su tali sistemi sono costitutivamente discriminatorie, e dunque, in alcuni ambiti, infallibilmente lesive di diritti giuridicamente tutelati, in quanto procedono trattando gli individui in base al loro raggruppamento in classi, costituite a partire dalle regolarità rilevate nei dati di partenza. Essendo radicata nella natura statistica di questi sistemi, la caratteristica di dimenticare i «margini» è strutturale: non è accidentale e non è dovuta a singoli bias tecnicamente modificabili. Ci si può trovare ai margini dei modelli algoritmici di normalità in virtù di caratteristiche totalmente irrilevanti, rispetto alle decisioni di cui si è oggetto.
Alla vasta documentazione degli esiti ingiusti, nocivi e assurdi di tali decisioni, le grandi aziende tecnologiche – paventando un divieto generalizzato – hanno risposto, in evidente conflitto di interessi, con un discorso sull’etica: è nata così, come operazione di cattura culturale, con l’obiettivo di rendere plausibile un regime di mera autoregolazione, l’«etica dell’intelligenza artificiale». Si tratta di una narrazione che le aziende commissionano e acquistano perché è loro utile come capitale reputazionale, che genera un vantaggio competitivo; è cioè un discorso, rispetto al quale le università hanno il ruolo, e l’autonomia, di un megafono; è «un’esca per catturare la fiducia» dei cittadini: un discorso pubblicitario che, in quanto declamato da altri, non appare neppure come tale.
La funzione di tale discorso è quella di tutelare, legittimandolo, un modello di business - fondato sulla sorveglianza e sulla possibilità di esternalizzare impunemente i costi del lavoro, degli effetti ambientali e dei danni sociali- il cui nucleo consiste nella vendita, alle agenzie pubblicitarie, della promessa di un microtargeting fondato sulla profilazione algoritmica.
Negli ultimi anni, l’opera di demistificazione della natura meramente discorsiva e del carattere strumentale dell’«etica dell’intelligenza artificiale», che trasforma l’etica nella questione della conformità procedurale a un «anemico set di strumenti» e standard tecnici, è stata così efficace da indurre molti a liquidare come inutile o dannosa – in quanto disarmata alternativa al diritto o vuota retorica aziendale – l’intera filosofia morale.
Al dissolversi della narrazione sull’etica dell’intelligenza artificiale, compare il convitato di pietra ch’essa aveva lo scopo di tenere alla larga: si sostiene infatti ora, da più parti, l’urgenza che ad intervenire, in modo drastico, sia il diritto. L’adozione di sistemi di apprendimento automatico a fini decisionali, in ambiti rilevanti per la vita delle persone, quali il settore giudiziario, educativo o dell’assistenza sociale, equivale infatti alla decisione, in via amministrativa, di istituire delle «zone pressoché prive di diritti umani».
A chi, in nome dell’inarrestabilità dell’innovazione tecnologica, deplori gli interventi giuridici, giova ricordare che il contrasto non è, in realtà, tra il rispetto dei diritti umani e un generico principio di innovazione, ma tra il rispetto dei diritti umani e il modello di business dei grandi monopoli del capitalismo intellettuale
Kant, l'assassino alla porta e il giudizio morale comune
No full textNel 1797, Kant sottoscrisse, rivendicandola, una tesi che Benjamin Constant aveva at-
tribuito, con intento polemico, a “un filosofo tedesco”: neppure a un assassino che ci
chieda se un nostro amico, da lui inseguito, si sia rifugiato in casa nostra, è lecito mentire.
La risposta kantiana al dilemma dell’assassino alla porta e l’affermazione di un dovere
incondizionato di veridicità sembrano, in virtù del loro carattere controintuitivo, mal
conciliabili con la tesi kantiana che il giudizio morale comune sia affidabile, che il com-
pito del filosofo morale sia un’analisi concettuale della morale esistente e che, quanto
all’etica normativa, la filosofia non abbia nulla da dire, di diverso o di ulteriore rispetto
a quanto l’uomo comune già non sappia da solo, né un diverso principio, tramite il
quale giungervi.
L’articolo ricostruisce il vero oggetto della discussione tra Kant e Constant e presenta la
concezione che induce Kant a respingere come non realistico il dilemma dell’assassino
alla porta. La dottrina morale di Kant si fonda sulla concezione, largamente condivisa
tra i suoi contemporanei, che esclude che il corso del mondo e le decisioni dei soggetti
morali possano essere oggetto di calcolo, previsione e controllo, e che vede perciò, come
costitutive della vita morale, due dimensioni, di cui quella prioritaria impone divieti il
cui rispetto è sempre in potere di ognuno.In 1797, Kant asserted a thesis that Benjamin Constant had polemically attributed to a German philosopher: we are not allowed to lie, not even to a murderer who asks us whether a friend of ours who is being pursued by him has taken refuge in our house.
Kant's answer to the dilemma of the murderer at the door, which rules out the possibility of any exceptions to the duty of truthfulness, seems counterintuitive and difficult to reconcile with Kant's thesis that common moral judgement is reliable. For Kant, the task of the moral philosopher is a conceptual analysis of existing morality, and philosophy has nothing to say about normative ethics other than, or in addition to, what the common man already knows.
The paper traces the real subject of the discussion between Kant and Constant and presents the conception that leads Kant to reject the dilemma of the murderer at the door as unrealistic. Kant believes that the course of the world and the choices of moral subjects cannot be objects of calculation, prediction and control and therefore, like his contemporaries, assumes two dimensions, as constitutive of moral life, of which the overriding one imposes prohibitions whose observance is always in the power of everyone
Scienza, filosofia e politica. Kant e le neuroscienze del giudizio morale
No full textL’articolo discute la contrapposizione delle neuroscienze del giudizio morale alla filosofia morale, mettendo in luce il significato politico della tesi che sia possibile, o già reale, una scienza della moralità, e che questa dimostri che il riconoscimento dei diritti equivale a un errore cognitivo. L’articolo presenta inoltre alcuni dei contributi teorici che la dottrina morale di Kant può fornire – purché si eviti di fornirne un resoconto infondato e caricaturale, per farne il paradigma della filosofia dalla poltrona – quanto al ruolo dell’intuizione e del ragionamento nella formulazione dei giudizi morali e quanto alla funzione da attribuire agli esperimenti mentali relativi ai dilemmi morali.This article discusses the opposition of neurosciences of moral judgement to moral philosophy, shedding light on the political meaning of the thesis according to which a science of morality is possible, or already real, and would demonstrate that rights’ recognition equates to a cognitive error. It furthermore presents some theoretical contribu-tions offered by Kant’s moral doctrine – on condition that one avoids providing an unfounded and caricatural ac-count in order to make it the paradigm of armchair philosophy – about the role of intuition and reasoning in formulating moral judgements and of mental experiments on moral dilemmas
Giudizio morale e intuizione in Kant
No full textIn the research fields of artificial intelligence ethics and of the neuroscience
of moral judgement, Kant’s metaethics is equated with a model of
moral judgement based on inferential reasoning. On the contrary, Kant actually
argues that common moral judgement is usually irreflective, that is,
automatic and immediate. This does not imply that it is a special sense or
feeling: according to Kant, people normally use a criterion of moral judgement
of which they may not have a clear awareness, but which in its pure
form – which philosophical analysis can identify – is intrinsically rational, i.e.
translatable into concepts and expressible in purely formal terms.
Kant does not equate human knowledge of moral law with intellectual intuition,
to avoid mistaking immediacy for irrationality and moral knowledge
for faith. Characteristic of the moral sphere is instead for Kant – with a double
adherence to intuitionism and rationalism – an immediate knowledge that in
the common moral judgement, may not include the awareness of the formal
principle that is being used, but of which it is nevertheless always possible to
provide a rational formulation
- …
