1,721,002 research outputs found
Going Beyond Counting First Authors in Author Co-citation Analysis
Full text linkThe present study examines one of the fundamental aspects of author co-citation analysis (ACA) - the way co-citation
counts are defined. Co-citation counting provides the data on which all subsequent statistical analyses and mappings
are based, and we compare ACA results based on two different types of co-citation counting - the traditional type that
only counts the first one among a cited work's authors on the one hand and a non-traditional type that takes into
account the first 5 authors of a cited work on the other hand. Results indicate that the picture produced through this non-traditional author co-citation counting contains more coherent author groups and is therefore considerably clearer. However, this picture represents fewer specialties in the research field being studied than that produced through the traditional first-author co-citation counting when the same number of top-ranked authors is selected and analyzed. Reasons for these effects are discussed
Variations on the Author
Full text link“Variations on the Author” discusses two of Eduardo Coutinho’s recent films (Um Dia na Vida, from 2010, and Últimas Conversas, posthumously released in 2015) and their contribution to the general question of documentary authorship. The director’s filmography is characterized by a consistent yet self-effacing form of authorial self-inscription: Coutinho often features as an interviewer that rather than express opinions propels discourses; an interviewer that is good at listening. This mode of self-inscription characterizes him as an author who is not expressive but who is nonetheless markedly present on the screen. In Um Dia na Vida, however, Coutinho is completely absent form the image, while Últimas Conversas, on the contrary, includes a confessional prologue that moves the director from the margins to the center of his films. This article examines the ways in which these works stand out in the filmography of a director who offers new insights into the notion of cinematic authorship
Appropriate Similarity Measures for Author Cocitation Analysis
Full text linkWe provide a number of new insights into the methodological discussion about author cocitation analysis. We first argue that the use of the Pearson correlation for measuring the similarity between authors’ cocitation profiles is not very satisfactory. We then discuss what kind of similarity measures may be used as an alternative to the Pearson correlation. We consider three similarity measures in particular. One is the well-known cosine. The other two similarity measures have not been used before in the bibliometric literature. Finally, we show by means of an example that our findings have a high practical relevance.information science;Pearson correlation;cosine;similarity measure;author cocitation analysis
Dispelling the Myths Behind First-author Citation Counts
Full text linkWe conducted a full-scale evaluative citation analysis study of scholars in the XML research field to explore just how different from each other author rankings resulting from different citation counting methods actually are, and to demonstrate the capability of emerging data and tools on the Web in supporting more realistic citation counting methods. Our results contest some common arguments for the continued
use of first-author citation counts in the evaluation of scholars, such as high correlations between author rankings by first-author citation counts and other citation
counting methods, and high costs of using more realistic citation counting methods that are not well-supported by the ISI databases. It is argued that increasingly available digital full text research papers make it possible for citation analysis studies to go beyond what the ISI databases have directly supported and to employ more
sophisticated methods
Modelling canonical computations in brains and machines with the Free Energy Principle
Full text linkThe Free Energy Principle in neuroscience explains brain function
based on the minimization of Bayesian surprise. Under mathematical
constrains on the underlying optimisation process, the FEP can
be used to derive a process theory that describes neuronal dynamics
as a hierarchy of descending local predictions and ascending prediction
errors that drives learning of an internal generative model of the
world. This inversion of a hierarchical generative model in the brain
is known as predictive coding (PC). Simultaneously, the minimization
of Bayesian surprise is a central objective for generative models in the
context of deep artificial neural networks (ANNs), such as the Variational
Autoencoder (VAE). Deep generative models are trained on
high-dimensional inputs from large datasets using exact backpropagation
of errors to the parameters of the model. Such global and exact
optimisation is in contrast to the approximate, iterative and locally informed
learning in PC. Apart from similar computational objectives
it is still unclear how modelling constrains under the FEP, such as
locally optimised free energy or the use of error uncertainty relate to
deep generative models in terms of performance and comparability
to human brain function.
In this thesis, we aim at filling some of these gaps by designing
and evaluating ANN models under the constrains of the FEP and hypothesize
that such models implement canonical computations that
are present across scales in the human brain.
We contribute a dynamical PC model with a hierarchy of latent
representations that learns by predicting probabilistic sequences of
latent states using exact error backpropagation. We also contribute a
generalized PC model (GPC) that is designed from first principles under
the FEP. GPC replaces global backpropagation of error with local
optimisation, performs uncertainty estimation under the Laplace approximation
and generates dynamical predictions local in time using
generalized coordinates of motion. We demonstrate that GPC scales
to complex sensory inputs and is comparable to VAEs in terms of
inference.
Next to evaluating unsupervised learning, we test and discuss possibilities
to retrieve sensory processing related information in brain
activity using FEP based models. In this context, we evaluate the
possibility to learn shared representations of brain activity recorded
in electroencephalograms (EEG) and auditory stimuli using a multiview
VAE architecture. We demonstrate the possibility to retrieve
temporal locations of evoked brain responses (ERPs) in EEG from
the error response of a PC model processing audio stimuli. We also demonstrate the possibility to predict EEG signals directly and discuss
options to actively infer temporal ERP locations from EEG.
With our proposed methods we take a step towards performant,
yet biologically plausible, ANNs and provide means of explainability
through comparison to human brain function and model design from
first principles.Das Free Energy Principle (FEP) in den Neurowissenschaften erklärt
Gehirnfunktion basierend auf der Minimierung von Überraschung
im bayesschen Sinne. Unter mathematischen Einschränkungen des
zugrunde liegenden Optimierungsprozesses kann das FEP verwendet
werden, um eine Prozesstheorie abzuleiten, die neuronal Interaktionen
als eine Hierarchie von absteigenden lokalen Vorhersagen und
aufsteigenden Vorhersagefehlern beschreibt, die zum Erlernen eines
internen generativen Modells der Welt dient.
Diese Invertierung eines hierarchischen generativen Modells im
Gehirn ist auch als Predictive Coding (PC) bekannt. Gleichzeitig
ist die Minimierung von bayesscher Überraschung ein zentrales Berechnungsziel
für generative Modelle im Zusammenhang mit tiefen
künstlichen neuronalen Netzen (KNNs), wie dem Variational Autoencoder
(VAE). Tiefe generative Modelle werden mit komplexen Eingaben
aus großen Datensätzen trainiert und nutzen eine exakte Rückpropagierung
von Vorhersagefehlern zu Modellparametern.
Eine solche globale und exakte Optimierung steht im Kontrast zum
approximativen, iterativen und lokalen Lernen in PC Modellen. Abgesehen
vom ähnlichen globalen Ziel der Modelloptimierung ist noch
unklar, wie Modellierungsbeschränkungen unter dem FEP, wie zum
Beispiel lokal optimierte freie Energie oder die Verwendung von Fehlerunsicherheit,
mit tiefen generativen Modellen in Bezug auf Leistung
und Vergleichbarkeit mit der menschlichen Gehirnfunktion zusammenhängen.
In dieser Dissertation zielen wir darauf ab, einige dieser Lücken
zu schließen, indem wir KNNs unter den Einschränkungen des FEP
entwerfen, trainieren und evaluieren. Dabei gehen wir von der Hypothese
aus, dass solche Modelle kanonische Berechnungen implementieren,
die über verschiedenen Skalen verteilt auch im menschlichen
Gehirn vorhanden sind.
Wir stellen ein dynamisches PC Modell mit einer Hierarchie latenter
Repräsentationen vor, das lernt, indem es Sequenzen von probabilistischen
Zuständen unter Verwendung exakter Fehlerrückpropagierung
vorhersagt. Wir stellen weiterhin ein Generalized PC Modell
(GPC) vor, das von Grund auf unter dem FEP entwickelt wurde.
GPC ersetzt die globale Fehlerrückpropagierung durch lokale Optimierung,
führt Unsicherheitsschätzung unter der Laplace Annäherung
durch und generiert strikt zeitlich lokale dynamische Vorhersagen
mithilfe von generalisierten Koordinaten. Wir zeigen, dass GPC
mit komplexen statischen und sequentiellen Informationen umgehen
kann und in Bezug auf Inferenz mit VAEs vergleichbar ist. Neben dem unüberwachten Lernen testen und diskutieren wir
Möglichkeiten, FEP-basierte Modelle im Sinne des Information Retrieval
zum Auffinden von wahrnehmungsbezogener Informationen
im menschlichen Gehirn zu nutzen. In diesem Zusammenhang evaluieren
wir die Möglichkeit, gemeinsame Repräsentationen von mittels
Elektroenzephalografie (EEG) aufgezeichneter Gehirnaktivität und
auditiven Stimuli unter Verwendung einer Multi-View-VAE Architektur
zu lernen.Wir demonstrieren die Möglichkeit, zeitliche Positionen
von evoked potentials (ERPs), ereignisbezogene Potentialen im EEG,
aus der Fehlerantwort eines PC-Modells abzurufen, das Audiostimuli
verarbeitet. Wir demonstrieren weiterhin die Möglichkeit, EEG Signale
direkt vorherzusagen und diskutieren Möglichkeiten, die zeitliche
Position von ERPs aktiv aus EEG-Vorhersagefehlern abzuleiten.
Mit unseren vorgeschlagenen Methoden machen wir einen Schritt
in Richtung leistungsfähiger, aber biologisch plausibler KNNs und
bieten Mittel zur Erklärbarkeit durch den Vergleich mit menschlicher
Gehirnfunktion und der Modellentwicklung auf Basis fundamentaler
Prinzipien
koamabayili/VECTRON-author-checklist: VECTRON author checklist
No full textWe have done our best to complete the author checklist relating to the use of animals in the hut study. Note that the objective for the hut study was to evaluate the IRS treatment applications for residual efficacy against Anopheles mosquitoes, including the local An. coluzzii mosquito population. Cows were only used to attract mosquitoes into the huts and no tests were carried out directly on the cows. The author checklist is intended for use with studies where experiments are carried out on animals, which is why we have had such difficulty in completing this for the hut study, as many of the questions do not relate to how the cows were used
Neuroscience-inspired analysis and visualization of Deep Neural Networks
No full textDeep Neural Networks (DNNs) are very successful in various fields of application.
Their success, however, ismostly achieved by increasing the model
complexity in terms of types of architectures or the number of neurons.
At the same time, it becomes harder to interpret how DNNs solve their learned task, which can be risky in critical applications like autonomous driving or decision-making systems in healthcare. There are several techniques to elucidate inner workings of DNNs and to explain their decisions for individual examples. However, most of them are projecting information to the input space such that results are typicallymost useful for images. For many other types of data, for example, audio, visually inspecting the data is not intuitive such that the results of the explanation techniques are less intuitive to interpret, as well.
In this thesis, we aim to develop a more generally applicable method for getting insight into DNNs which does not depend on input data that is visually interpretable. Instead of projecting information to the input space, we implement a comparative analysis ofDNNresponses to different groups of inputs. For pre-defined groups that comprise related input examples, for example, from the same category, we obtain typical activity of the DNN for each of the groups. If the similarities of activity are in agreement with the
human expectation about the similarities of the groups, it indicates that the model learned meaningful concepts about the data. For this comparative analysis, it is only necessary that a person can estimate relative similarities and differences between the groups, that means, tellingwhether two groups are more similar to each other than to another group. For example, a person might estimate that a spoken ‘a’ and ‘e’ are more similar to each other than to a spoken ‘t’ and expect this to be reflected in the similarities of DNN
activations, too. In this thesis, we use audio, specifically speech in an
Automatic Speech Recognition (ASR) task, as a representative data that is not visually interpretable.
To develop such technique, we take inspiration from neuroscience because real brains are even more complex and opaque systems than DNNs and have been studied for decades. Therefore, we research howwell-established methods from neuroscience can be adapted to analyze and visualize DNNs. In particular, we present two methods that build on top of each other.
First, we introduce a Event-Related Potentials (ERPs)-inspired technique to characterize DNN activity for groups of examples, which we call Neuron Activation Profiles (NAPs). This approach allows to describe how the DNN responds to certain pre-defined groups of inputs and how the responses differ between these groups. For example, this can reveal which neurons
are activated for specific groups and which activate for all similarly. While this technique allows for comparisons, the activations themselves are not directly interpretable. Therefore, as a second technique, we present a visualization of activations as topographic activation maps, similar to how brain activity is visualized in Electroencephalography (EEG).
Computing NAPs and visualizing them as topographic maps finally allows to compare group-characteristic DNN responses visually. This way, we provide a visual tool to inspect DNNs independent of whether the input data are visually interpretable themselves. We performexperiments with different image recognition models and for an ASR model which processes audio data of speech as a representative task with data that are not visually
interpretable.Tiefe neuronale Netze (TNN) sind sehr erfolgreich in einer Vielzahl unterschiedlicher Anwendungsgebiete. Allerdings wird dieser Erfolg oft durch eine Erhöhung der Komplexität des Modells erreicht, beispielsweise indem kompliziertere Architekturen oder eine größere Anzahl von Neuronen verwendet werden. Gleichzeitig erschwert diese Komplexität, zu verstehen, wie ein TNN seine Aufgabe löst, was ein Risiko in kritischen Anwendungsgebieten
wie dem autonomen Fahren oder Entscheidungssystemen in der
Gesundheitsversorgung darstellt. Es existieren bereits verschiedene Methoden, um die inneren Prozesse von TNN nachzuvollziehen sowie deren Entscheidungen für einzelne Eingaben zu erklären. Die meisten dieser Methoden projizieren jedoch Informationen auf den Eingaberaum, weswegen deren Resultate am nützlichsten für Bilder sind. Andere Datentypen, beispielsweise Audiodaten, sind als eine visuelle Darstellung nicht intuitiv interpretierbar. Dementsprechend sind für diese Datentypen auch Erklärungsmethoden,
die eine visuelle Erklärung im Eingaberaum erzeugen, nur schwer interpretierbar.
Das Ziel dieser Arbeit ist es, eine Methode zu entwickeln, die Einblick in innere Strukturen und Prozesse von TNN gewährt, dabei aber unabhängig davon ist, ob die Eingabedaten visuell interpretierbar sind. Anstatt Informationen auf den Eingaberaum zu projizieren, vergleichen wir, wie ein TNN auf unterschiedliche Gruppen von Eingaben reagiert. Dazu ermitteln wir die Aktivierungen des TNN für vordefinierte Gruppen, welche zusammengehörige Eingaben beinhalten, beispielsweise Eingaben der
gleichen Kategorie. Wenn die Ähnlichkeiten der Aktivierungen mit der
menschlichen Erwartung über die konzeptuellen Ähnlichkeiten der Gruppen übereinstimmen, deutet das darauf hin, dass die vom Modell gelernten
Konzepte sinnvoll sind. Um diese vergleichende Analyse durchzuführen, muss eine Person nur die Ähnlichkeit der Gruppen einschätzen können, das bedeutet, ob zwei Gruppen ähnlicher zueinander sind als zu einer dritten Gruppe. Zum Beispiel kann eine Person einschätzen, dass ein gesprochenes ‘a’ und ‘e’ sich ähnlicher sind als ein gesprochenes ‘t’ und dementsprechend
erwarten, dass diese Ähnlichkeit in den Aktivierungen des
TNN widergespiegelt ist. In dieser Arbeit nutzen wir Audiodaten, speziell Sprachaufnahmen zur Anwendung für die Spracherkennung, als repräsentative Daten, die nicht visuell interpretierbar sind.
Um eine geeignete Methode zu entwickeln, dienen uns die Neurowissenschaften als Inspiration. Im Vergleich zu TNN sind Gehirne noch komplexere und undurchsichtigere Systeme, die seit Jahrzehnten untersucht werden. Darum erforschen wir, wie etablierte Methoden aus den Neurowissenschaften
auf TNN übertragen werden können, um diese zu analysieren
und zu visualisieren.
Im Speziellen stellen wir zwei Methoden vor, die aufeinander aufbauen.
Erstens zeigen wir einen Ansatz, um TNN Aktivierungen für Gruppen von Eingaben zu charakterisieren, welchen wir Neuronen-Aktivierungs-Profile (NAP) nennen. Diese Methode ermöglicht es, zu beschreiben, wie ein TNN auf bestimmten vordefinierte Gruppen von Eingaben reagiert und wie sich diese Reaktionen zwischen den Gruppen unterscheiden. NAP erlauben es, Gruppenmiteinander zu vergleichen, allerdings sind die Aktivierungen,
die sie beschreiben, nicht direkt interpretierbar. Aus diesem
Grund stellen wir eine zweite Methode zur Visualisierung der gruppenspezifischen Aktivierungen als topographische Aktivierungskarten vor. Diese Visualisierungs-Technik ist davon inspiriert, wie Gehirn-Aktivität bei der Messungmittels Elektroenzephalographie (EEG) dargestellt wird.
NAPs und deren Visualisierung als topographische Karte ermöglichen es, Reaktionen des TNN für unterschiedliche Gruppen visuell miteinander zu vergleichen. Damit stellen wir ein Werkzeug zur Verfügung, um unabhängig davon, ob Eingaben visuell interpretierbar sind, Einblicke in TNN zu gewinnen.
Unsere Experimente umfassen unterschiedliche Bilderkennungs-
Modelle sowie ein Spracherkennungsmodell, das Audiodaten verarbeitet, als repräsentatives Beispiel für Daten, die nicht visuell interpretierbar sind
Author-wise bibliometric analysis based on entropy.
No full textAuthor-wise bibliometric analysis based on entropy.</p
- …
