1,721,110 research outputs found
Intelligenza artificiale spiegabile per applicazioni testuali: sfide aperte e opportunità per Entity Matching e Fact-checking.
No full textNell'era dell'intelligenza artificiale, i progressi nell'apprendimento automatico hanno permesso la creazione di modelli che risolvono efficacemente un'ampia serie di compiti.
Sebbene questi modelli raggiungano spesso alte prestazioni, talvolta superando le capacità umane, le loro architetture complesse spesso oscurano il loro ragionamento interno.
Inoltre, piuttosto che utilizzare una logica che le persone troverebbero ragionevole o affidabile, i modelli possono raggiungere un'elevata accuratezza sfruttando artefatti dei dati.
Questa mancanza di trasparenza diventa preoccupante in ambiti sensibili, dove le decisioni dell'IA possono impattare significativo sulla vita delle persone.
Inoltre, i modelli di IA possono comportarsi in modo scorretto per vari motivi: i pregiudizi della società possono riflettersi nei dati di addestramento, nelle decisioni prese durante lo sviluppo o nei sistemi stessi.
Il campo dell'Intelligenza Artificiale Spiegabile (XAI) affronta questi problemi, concentrandosi sull'interpretazione dei modelli esistenti e sulla progettazione di architetture di IA intrinsecamente trasparenti.
Questa tesi esplora e fa avanzare le frontiere della XAI attraverso un'indagine sistematica su due domini: l'entity-matching (EM) e il fact-checking computazionale.
In EM, vengono esplorate nuove tecniche per spiegare i modelli black-box, affrontando sfide uniche in questo campo. Le tradizionali tecniche XAI post-hoc, se applicate direttamente all'EM, non tengono conto delle sue caratteristiche (confronto di coppie di descrizioni da fonti indipendenti). Vengono sviluppati adattamenti e miglioramenti delle tecniche di spiegazione per risolvere queste sfide e fornire scenari “what-if” che consentono di capire come la modifica dei dati di input influirebbe sui risultati. Queste innovazioni migliorano la fedeltà e l'affidabilità delle spiegazioni.
La tesi conduce poi un'analisi approfondita dell'architettura interna di BERT applicata all'EM, rivelando intuizioni su come questo modello elabora e sfrutta le informazioni contenute nelle descrizioni delle entità. Le valutazioni sperimentali rivelano che: il fine-tuning su EM influisce principalmente sugli ultimi livelli di BERT; questo modello riconosce la struttura unica dei dataset EM; e i modelli EM basati su BERT non fanno molto affidamento sulla similarità semantica a coppie tra i token.
Vengono poi presentati un sistema EM intrinsecamente interpretabile e il nuovo concetto di “unità decisionali”. Questo approccio fornisce una nuova prospettiva su come eseguire l'EM, generando spiegazioni efficaci e compatte. I risultati dimostrano che questo metodo raggiunge un'accuratezza paragonabile a quella di altri modelli all'avanguardia, fornendo al contempo spiegazioni altamente interpretabili.
La ricerca si estende al campo emergente del fact-checking computazionale, dove la spiegabilità è fondamentale per la fiducia e l'adozione.
Viene introdotta una nuova metodologia per valutare quanto il ragionamento dei modelli di fact-checking assomigli alla logica umana.
Ciò avviene adattando le tecniche XAI, LIME e SHAP, ai modelli di fact-checking. Il metodo proposto mostra efficacemente come i modelli sfruttino le prove per prevedere la veridicità delle affermazioni. Le spiegazioni generate forniscono trasparenza e possono evidenziare criticità.
Inoltre, verrà presentato ExpGrad++, un nuovo approccio basato sul metodo di riduzione per affrontare il problema della scalabilità nei sistemi di IA equi. Le due principali innovazioni sono il campionamento adattivo e il gradiente esponenziato alternato ad aggiornamenti di column generation. Questi miglioramenti mantengono le garanzie di accuratezza ed equità, essenziali per le applicazioni pratiche, aumentando l'efficienza computazionale di un ordine di grandezza.In the era of Artificial intelligence, advancements in machine and deep learning enabled the creation of models that effectively tackle a wide and rapidly expanding set of tasks.
While these models frequently achieve extraordinary performance, sometimes surpassing human abilities, their complex architectures, which include millions of parameters, frequently obscure their internal reasoning.
Furthermore, rather than using logic that people would find reasonable or reliable, models may achieve high accuracy by taking advantage of data artifacts.
This lack of transparency becomes especially concerning in sensitive domains where AI decisions can significantly impact people's lives.
AI systems can behave unfairly for various reasons: societal biases may be reflected in the training data, in the decisions made during the development, or in the systems themselves.
The field of Explainable Artificial Intelligence (XAI) has emerged to address these issues, focusing on both interpreting existing models and designing inherently transparent AI architectures.
This thesis explores and advances the frontiers of XAI through a systematic investigation across two critical domains: entity-matching (EM) and computational fact-checking.
In EM, this research first explores novel techniques to explain black-box models, addressing unique challenges in this field. Traditional post-hoc XAI techniques, when directly applied to EM, do not account for its characteristics, i.e. comparing pairs of descriptions originating from independent sources. The research advances the state of the art by developing adaptations and enhancements of explanation techniques that specifically address these challenges and provide "what-if" scenarios that enable users to understand how change in input data would affect matching outcomes. These innovations improve the fidelity and trustworthiness of generated explanations.
The thesis then conducts an in-depth analysis of BERT's internal architecture when applied to EM, revealing crucial insights about how this state-of-the-art model processes and leverages information in entity descriptions. Experimental evaluations reveal that: fine-tuning on EM task mainly affects the last layers of BERT; this model recognizes the unique structure of EM datasets (records consisting of entity descriptions pairs); and BERT-based EM models do not heavily rely on pair-wise semantic similarity between tokens.
Then, an inherently interpretable EM system, and the novel concept of "decision units" are presented. This approach provides a new perspective on how to perform EM by generating effective, compact explanations tailored to this task. Results show this method achieves accuracy comparable to other state-of-the-art models while providing highly interpretable predictions.
The research extends to the emerging field of computational fact-checking, where explainability is crucial for trust and adoption.
To assess how fact-checking models' reasoning resembles human logic, a novel evaluation methodology is introduced.
This is accomplished by adapting XAI techniques, LIME and SHAP, to fact-checking models. The proposed method can effectively demonstrate how models exploit evidence pieces for the veracity prediction of claims. The explanations generated provide improved transparency and can highlight criticalities.
Additionally, ExpGrad++, a novel approach based on the reduction method to address the problem of scalability in fair AI systems, will be presented. The two major innovations are adaptive sampling and interleaved exponentiated gradient with column-generation updates. These enhancements maintain accuracy and fairness guarantees, essential for practical applications, while increasing computational efficiency by an order of magnitude
Proceedings of the 10th Europhysical Conference on Defects in Insulating Materials (EURODIM 2006), Milano, Italy, 10-14 July 2006
No full textAnalysis of electron mobility versus temperature after photoexcitation in Si-doped AlxGa1-xAs
No full text
The influence of spatial correlations of DX charges in analysing electron mobility data to investigate the DX center charge state
No full textHyperfine interactions in YAB:Ho3+: A high-resolution spectroscopy investigation
No full textHigh-resolution spectroscopy (as fine as 0.01 cm−1) was applied to a 1 mol % holmium-doped single crystal of yttrium aluminum tetraborate with the purpose of studying the hyperfine splitting of Ho3+ energy levels of interest for possible quantum manipulation media. The hyperfine structure was clearly revealed for a high number of lines in a wide wave number range (up to 21300 cm−1) and for a large number of multiplets. Several different hyperfine patterns were monitored, differing in the number of lines, in their separation, and in their relative statistical weight. These features were all understood by a crystal-field model, whose results are in very good agreement with experiments and account for the involved level symmetry, the type of transitions (electric and magnetic dipole allowed), the possibility of a second-order (pseudoquadrupolar) hyperfine coupling between close levels, and a slight distortion of the local D3 symmetry in Ho-occupied sites
Reduction of spatial correlations amongst DX charges owing to capture of photoexcited electrons into a localized donor state in Al0.35Ga0.65As
No full text
- …
