1,720,996 research outputs found
Intelligenza artificiale e algoritmi: datificazione, politica, epistemologia
No full textThe aim of the present paper is to show the evolution of the concept of Artificial Intelligence (AI) and of the different technical methods that progres-sively informed and organized this concept. The article presents a view of the evolution of such a notion: 1) with special regards to the social, political and epistemological consequences of the chosen technical solutions, 2) with spe-cial attention to the parallel transformation of the human intelligence concept. The recent major successes of AI are based on datification and availability of huge quantity of information relative to traces left behind by people online behaviours. Big Data methods together with machine learning algorithms have the purpo-ses to interpret data and create pattern recognition methods that discover correla-tions between data series. Algorithms exploit such correlations, which are not pre-cisely causation categories, in order to produce anticipations of future behaviours, inferring regularities and measuring probabilities grounded on past actions. Moreo-ver algorithms work on the clusterization of people according to their activities and other personal characteristics, such as where they live, who their friends are, etc.The implicit foundation of data science is the induction principle, which ‘guarantees’ that the past will be similar to the future and that people that share some peculiarities tend to behave similarly in corresponding situations. It is an interpretative data organi-zation, which is obtained via the datification of online traces and the implementation of adequate machine learning algorithms. The datification itself implies that data is cleaned and arranged in a form that the program can understand. The pretence of neutrality of such complex procedures blurs the activity of interpretation that is impli-citly embedded in the system, by giving the allure of neutrality of measuring methods. The radical success of Big Data and machine learning algorithms invites to assign deci-sions responsibility to machines because they are the unique agents capable of managing the huge quantity of available data. It is more and more difficult to control the output of complex technical systems even when the results of the procedures impact human beings’ lives. As Norbert Wiener already suggested, technical systems could exclude hu-mans from feedback loops because they are too slow to catch up with the rhythm of the technical decision process. This is the first issue under discussion in the present paper. The second issue is that the machine, as Turing underlined, must only pretend to be in-telligent enough to be able to take in inexperienced judges. If it is not possible to control the actions of the devices because they are to fast and complex to be explicitly understo-od – and the system is programmed to take in humans – how can we trust machines? The third issue regards technology as a socio-technical system that, differently from science does not aim at understanding the external world, but it is a medium, a repre-sentation and an intervention that orientates the world according to social and political criteria. It is necessary to ask who is in charge of the governance of such a system and which are the objectives of such a transformation. It is crucial then to delineate rules, powers and intentions that underline the design of the sociotechnical systems in order to choose democratically which of the methods are more favourable to the whole societ
Intelligenza artificiale, machine learning e discriminazione. L'AI alla prova con le nuove soggettività
No full textLE interpretazioni femministe del test di turing anticipano un filone di ricerche di genere che si occupano di interrogare la tecnologia per costruire delle pratiche alternative e più eque nei confronti delle soggettività alternative.
LE tecniche di machine learning attivano invece strategie categorizzanti che tendono a privilegiare gli standard e le soggettività più tradizionali, rendendo la discriminazione di genere un elemento inevitabile delle sue valutazioni.
I sistemi di classificazione e clustering si basano, infatti, sui dati pregressi che registrano in modo acritico le ingiustizie storicamente perpretrate.
I sistemi della presa di decisione algoritmica devono per forza affidarsi alle discriminazioni e ai pregiudizi per costruire gli spazi latenti della propria ricerca di correlazioni e pattern da proiettare sul futuro. E' decisivo avere uno sguardo critico su questi processo di valutazione per evitare che vengano considerati oggettivi per il solo fatto che sono il prodotto di un complesso sistema sociotecnico
Social network e algoritmi di machine learning: problemi cognitivi e propagazione dei pregiudizi
No full textThe objective of this paper is to critically analyze the potential discriminatory and biased effects of the spread of algorithmic techniques for the interpretation of human behaviors, based on unsupervised machine learning methods, trained on uncontrolled data, produced by social networks users. I will introduce the epistemological general issue starting from the exam of the performance of two algorithms for textual analysis, such as GloVe and Word2vec. They are, at present, two of the most successful tools for textual analysis based on word embedding. Such algorithms, trained on public domain textual databases, tend to associate words by replicating gender and ethnic stereotypes, because they infer connections between words following the probability of their distances in the training sets. The meaning model that informs their judgments pushes them to rely on a stereotyped and biased representation of social, gender and ethnic categories, that are intertwined in the databases on which they are trained (Caliskan, Bryson and Narayanan 2017; Bolukbasi et al. 2016). The Natural Language Processing (NLP) techniques are just examples of the possible use of algorithms for profiling users of social networks with the aim of predicting their behaviors, or of suggesting their preferences, or of nudging them toward believing or desiring something predetermined by the system. The process is based on the analysis of past behaviors, preferences, or actions in order to create groups, clusters or categories. This complex system is founded on two equivocal premises. The first is that the huge increase of data allows the algorithms to work with such a quantity of information that prevents the distortive effects and potential mistakes to become relevant in terms of prevision. The second hypothesis is that algorithmic methods interpret more efficiently than human beings the meaning of available data on users, and consequently are capable of capturing its cognitive value for the scope of a trustworthy, univocal categorization and for the prediction of the probability of future events. Both hypotheses are not demonstrated or validated; they are just assessed and rhetorically supported by the major agents of the successful Big Data field. Moreover the combination of dirty, old or non-controlled data, of rigidity in the inferential capacity of learning algorithms and of the utilitarian orientations of their experimental design, could produce socially dangerous outputs in terms of interpretations and predictions in social sciences. It is desirabile to better understand rules and criteria adopted in machine learning algorithms used for socially sensitive analysis, with special regards to data acquired in social networks, in order to guarantee the respect of fairness and minority protections in judgments and predictions. It is also relevant to avoid secret methods in decisions taking processes that impact on people life and social justice, because the evaluation of algorithms only from their outputs is not enough, due to the asymmetry of power in terms of knowledge distribution between those who are and those who are not in control of data
L’Intelligenza artificiale è politica: quale ruolo per il sindacato nella regolazione delle Big Tech?
No full textL’articolo discute della natura politica della tecnologia, con particolare riguardo all’Intelligenza artificiale, e del ruolo centrale rivestito dai corpi intermedi, come il sindacato, nel contrattare le funzionalità e le caratteristiche dei sistemi tecnici adottati nella gestione del lavoro, ma più in generale nella gestione delle relazioni sociali e in quelle tra società e risorse naturali. Si ritiene che il sindacato possa rappresentare un attore essenziale nel contenere gli effetti perversi di alcune tecnologie sulla società, attivando le pratiche necessarie per usare gli strumenti tecnici, in particolare quelli digitali, a favore della tutela dei diritti di lavoratori e cittadini
Big Data e algoritmi
No full textBig Data e algoritmi costruiscono correlazioni, regolarità e quantificazioni per proporre interpretazioni dei fenomeni sociali in base ad automatismi matematici. Tuttavia, come svela questo libro, è un'illusione pensare che una comprensione automatica di abitudini ed eventi possa essere oggettiva e neutrale. Le tecnologie dell'intelligenza artificiale ambiscono a definire ciò che è stato e ad anticipare iil futuro, ma sono state inventate e sviluppate da esseri umani, e ne conservano perciò il genio, l'istabilità, i pregiudizi, spesso anche l'arroganza.
Affidarsi ad algoritmi per prendere decisioni in contesti incerti come quelli della vita reale, dove non è possibile determinare gli obiettivi univocamente, consente a chi definisce i criteri di farlo all'ombra dell'opacità del dispositivo tecnico, senza doversene assumere la responsabilità, anche a rischio di esiti iniqui. E', quindi, necessario chiedere giustizia su dati e algoritmi: chi è oggetto di processi decisionali automatici deve ottenere spiegazioni esplicite e condivise per le scelte, pubbliche o private che siano. Le valutazioni algoritmiche non possono essere l'alibi per un nuovo latinorum della tecno-aristocrazia internazionale
Dobbiamo ripensare l'intelligenza artificiale
No full textI nuovi sistemi tecnologici pongono una sfida politica. Dalla riproduzione del ragionamento ai processi di apprendimento. Gli inevitabili pregiudizi e l'equivoco dei big data. I conflitti di potere. Lo sviluppo dei sistemi di predizione non cancella l'incertezz
Sulla necessità dell’apprendimento per l’Intelligenza artificiale
No full textThe aim of this paper is the description of the close relationships between
learning and artificial intelligence (AI) starting from its very beginnings. Build-
ing on some citations by Alan Turing, Norbert Wiener and Joseph Weizen-
baum, I will show that the challenge of AI was mainly based on the capability
of the machine to learn from experience. Also, the most promising AI devel-
opments at present depend on the broad definition of learning, including deep
learning. The definition is necessarily loosened enough that it can include all
changes of behaviors based on established parameters, so that the machine can
change its reactions according to the signals it receives. Though learning and
experience are not the same for machines and human beings, the goal of AI is
to generalize the concepts so that what happens inside the machines can be
represented as a proxy of the human activity of learning from experienc
MACHINE LEARNING E APPROPRIAZIONE DEL FUTURO
No full textAbbiamo di fronte tre possibili aree di intervento per tutelare alcune delle con-
quiste sociali, politiche e democratiche ottenute nel mondo della memorizza-
zione attraverso la stampa. La prima consiste nella regolazione di questi sistemi.
Il problema della regolamentazione è far valere l’enforcement rispetto ad aziende
che hanno la loro sede istituzionale e le loro infrastrutture industriali lontano
da dove vige la giurisdizione. Siamo di fronte a due diverse autorità: gli stati
democratici o le istituzioni sovranazionali e le multinazionali digitali, le cui sfere
di influenza si sovrappongono, ma che si contendono il controllo dell’egemonia.
Del resto stati nazionali e organismi sovranazionali sono figli del sistema di me-
morizzazione basato sulla stampa, della promulgazione dei relativi provvedi-
menti regolamentari, mentre le aziende tecnologiche traggono il proprio potere
dal controllo dell’infrastruttura digitale.
La seconda area di intervento riguarda le pratiche. Per cosa usare questi stru-
menti? A tutela dei cittadini e delle cittadine, dei lavoratori e delle lavoratrici o
a vantaggio dei nuovi sistemi di messa a valore della rappresentazione digitale,
a vantaggio del capitale? Possiamo pensare degli usi dell’intelligenza artificiale
che abbiano l’obiettivo di proteggere gli spazi comuni, di aumentare la sosteni-
bilità delle produzioni, di ridurre gli incidenti sul lavoro, di far valere la giustizia
riparativa, dando a ciascuno secondo i suoi bisogni e richiedendo che ognuno
contribuisca alla collettività secondo le sue capacità. Per realizzare questa area
di intervento abbiamo bisogno della terza gamba delle nostre azioni democra-
tizzanti: l’educazione
- …
