Qucosa
Not a member yet
63150 research outputs found
Sort by
Forstbetriebsgemeinschaften in Sachsen
No full textForstbetriebsgemeinschaften (FBG) sind freiwillige Zusammenschlüsse von Waldbesitzern, die ihren Wald gemeinsam und besitzübergreifend bewirtschaften. Sie sind regional tätige Selbsthilfeorganisationen und arbeiten mit ortsansässigen Unternehmen zusammen.
Redaktionsschluss: 31.05.201
Richard Strauss als publizierender Komponist: Quellen eines »langen 19. Jahrhunderts«
No full textRichard Strauss ist ein musikalischer Protagonist des späten 19. Jahrhunderts und zugleich einer der meistgespielten Komponisten des 20. Jahrhunderts. Dieses Grenzgängertum spiegelt sich in den Quellen wider. Besonders authentisch ist seine Musik durch die vollständigen Kompositionsautographe repräsentiert. Sie enthalten – in der Regel nach vorangegangenem Skizzenstadium – die Werke in all ihren Feinheiten und verströmen häufig die Aura von Perfektion. Diese Anmutung ist kritisch zu hinterfragen; das gilt nicht nur für Quellen aus Strauss’ Jugendzeit, sondern auch für spätere Manuskripte, die als Vorlagen für den Notenstich dienten. Strauss war in die Drucklegung seiner Werke involviert. Davon künden Korrekturabzüge und die umfangreich erhaltene Korrespondenz als weitere wichtige Quellengattungen der Strauss-Philologie. Gegenüber den Verlagshäusern erwies sich Strauss schon in jungen Jahren als selbstbewusster Geschäftspartner, der hochwertige Publikationen einforderte, für seine eigenen Rechte an den Werken eintrat und prägnante Honorarverhandlungen führte. Damit einher ging auch Strauss’ Entschluss um die Jahrhundertwende, seine Autographe als Dokumente von dinglichem Wert nicht mehr aus der Hand zu geben. Deshalb entstanden nun Stichvorlagen von fremder Hand, die als neuer Quellentyp auf die Qualität des Notentextes und dessen kritische Edition erhebliche Auswirkungen haben. Als Kuriosum gelten die sogenannten Spätabschriften: Um für seine Familie Werte zu schaffen, hat Strauss einige Werke aus den 1890er Jahren in den 1940er Jahren noch einmal höchstpersönlich zu Papier gebracht. Natürlich beschränkte sich der Komponist dabei nicht auf ein bloßes Abschreiben. Zahlreiche Korrekturen und Verbesserungen, aber auch altersbedingte Nachlässigkeiten und neue Fehler machen die Spätabschriften als gleichsam verspätete Quellen des 19. Jahrhunderts zu einem editorischen Sonderfall.Richard Strauss is a musical protagonist of the late 19th century and at the same time one of the most frequently performed composers of the 20th century. This border-crossing character is reflected in the sources. His music is most authentically represented by the complete autograph scores. They contain the works in all their subtleties – usually after a preliminary sketch phase – and often radiate an aura of perfection. This impression must be critically scrutinised; this applies not only to sources from Strauss’s youth, but also to later manuscripts that served as engraver’s models. Strauss was involved in the printing of his works. Proofs and the extensive surviving correspondence are further important sources of Strauss philology. Even at a young age, Strauss proved to be a self-confident business partner with publishers, demanding high-quality publications, standing up for his own rights to the works and conducting concise fee negotiations. This also went hand in hand with Strauss’s decision at the turn of the century to no longer let his autographs out of his hands as documents of material value. This led to the production of engraver’s models by foreign hands, which, as a new type of source, have a considerable impact on the quality of the musical text and its critical edition. The so-called Late Copies are a curiosity: in the 1940s, in order to create value for his family, Strauss once again personally put to paper a number of works from the 1890s. Of course, the composer did not limit himself to mere copying. Numerous corrections and improvements, but also age-related carelessness and new errors make the late copies, as quasi-delayed sources of the 19th century, a special editorial case
Untersuchung einer neuartigen Kurzschlusserkennungsmethode für Galliumnitrid-Leistungshalbleiter
No full textZiel dieser Dissertation ist die systematische Untersuchung einer neuartigen, schnellen und robusten Kurzschlusserkennungsmethode für Galliumnitrid (GaN) eHEMTs (engl. enhance-ment-mode High-Electron-Mobility-Transistors). Eine schnelle und robuste Kurzschlusserkennung für GaN-eHEMTs ist wichtig für die Etablierung der Leistungshalbleiter-Technologie in Anwendungen, in denen auftretende Kurzschlüsse begrenzt und aktiv ausgeschaltet werden sollen. Dies betrifft zum Beispiel Stromrichter, die an einer eingeprägten Gleichspannung arbeiten und in denen in spannungseinprägenden Kondensatoren eine größere Energie gespeichert ist, welche im Fehlerfall größere Schäden oder andere unzulässige Erscheinungen bewirken würde. Aktuelle GaN-eHEMTs besitzen bei hohen DC-Spannungen lediglich eine Kurzschlussfestigkeit von einigen Hundert Nanosekunden. Die vorliegende Arbeit befasst sich daher zunächst mit dem grundlegenden Funktionsprinzip und den Eigenschaften von GaN-Leistungshalbleitern, Strommessmethoden und der Charakterisierung von GaN-eHEMTs. Die Arbeit erläutert weiter eine gegenwärtig verwendete Kurzschlusserkennungsmethode für IGBTs (engl. Insulated-Gate-Bipolar-Transistors) genauer. Auf dieser Basis und dem Stand der Technik wird eine geeignete Kurzschlusserkennungsmethode für GaN-eHEMTs diskutiert und ausgearbeitet. Die neue, schnelle und robuste Kurzschlusserkennungsmethode basiert auf einer Entsättigungserkennung, die in ausgewählten IGBT-Treibern bereits integriert ist. In der aktuellen Form kann diese Entsättigungserkennung nicht für GaN-eHEMTs verwendet werden. Die Anwendung des Prinzips dieser Entsättigungserkennung erfordert eine Anpassung der Methode an GaN-Leistungshalbleiter. Die Entsättigungserkennung wird in zwei Schritten für die Verwendung an GaN-eHEMTs angepasst. Eine Gate-Source Spannungsüberwachung ersetzt im ersten Schritt die konstante Blanking-Zeit, um bei einem Kurzschluss-Typ 1 eine schnellere Reaktion der Kurzschlusserkennung zu gewährleisten. Die Gate-Source Spannung wird mit einem RC-Spannungsteiler gemessen und mit einer definierten Referenzspannung verglichen. In einem zweiten Schritt wird die Hochspannungsdiode dieser Anordnung eliminiert. Die parasitäre, nichtlineare Kapazität der Hochspannungsdiode führt zu unerwünschten Einkopplungen in die Logik bei großen du/dt der Drain-Source Spannung. Die Drain-Source Spannung wird deshalb ebenfalls mittels RC-Spannungsteiler gemessen und mit einer festen Referenzspannung verglichen. Die RC-Spannungsteiler werden bezüglich der Zeitkonstanten abgeglichen und erhöhen die Bandbreite der Messschaltung wesentlich. Die entwickelte Kurzschlusserkennungsmethode wird einer Methode mit konstanter Blanking-Zeit gegenüber gestellt. Die Methode mit konstanter Blanking-Zeit ist in ausgewählten Kurzschluss-ereignissen (zum Beispiel Kurzschlüsse des Typs 1) langsamer als die Kurzschlusserkennung mit Gate-Source Spannungsüberwachung. Die Kurzschlusserkennungsmethode wird erfolgreich an einem einzelnen GaN-eHEMT und an einer Parallelschaltung von zwei GaN-eHEMTs erprobt
Development of expansive concrete for chemical prestressing applications
No full textExpansive concrete is a specialized type of concrete that expands when mixed with water leading to a larger volume after setting. Such concrete is usually used to compensate for shrinkage. However, although expansive concrete can also be used in self-stressing concrete (chemical prestressing), still such use is very limited. This is because achieving high expansion rates in expansive concrete while upholding desirable mechanical strength and durability characteristics presents a formidable challenge. This study aims to develop expansive concrete capable of achieving substantial expansion rates while maintaining robust mechanical attributes. The research also delves into the material's behaviour over an extended period of time. First, a thorough examination of existing literature was conducted to select the component of the mixture. The mixture was subsequently prepared using various replacement ratios of expansive agent (CSA) in relation to the weight of the cement. These ratios included: 0%, 10%, 12.5%, 15%, 17.5%, and 20%. To study the influence of curing, the specimens were divided into two groups: one immersed in water, while the other was left in dry conditions. The findings have revealed that high expansion values can be achieved when using moderate replacement rations of CSA in combination with continuous water curing. Conversely, low expansion rates were recorded for specimens cured in dry conditions. Notably, such specimens can expand later when exposed to water, which can adversely influence the strength and durability of the concrete
Preferential recruitment and stabilization of Myosin II at compartment boundaries in Drosophila
No full textThe regulation of mechanical tension exerted at cell junctions guides cell behavior during tissue formation and homeostasis. Cell junctions along compartment boundaries, which are lineage restrictions separating cells with different fates and functions within tissues, are characterized by increased mechanical tension compared to that of cell junctions in the bulk of the tissue. Mechanical tension depends on the actomyosin cytoskeleton; however, the mechanisms by which mechanical tension is locally increased at cell junctions along compartment boundaries remain elusive. Here, we show that non-muscle Myosin II and F-actin transiently accumulate and mechanical tension is increased at cell junctions along the forming anteroposterior compartment boundary in the Drosophila melanogaster pupal abdominal epidermis. Fluorescence recovery after photobleaching experiments showed that Myosin II accumulation correlated with its increased stabilization at these junctions. Moreover, photoconversion experiments indicated that Myosin II is preferentially recruited within cells to junctions along the compartment boundary. Our results indicate that the preferential recruitment and stabilization of Myosin II contribute to the initial build-up of mechanical tension at compartment boundaries
Reliability and Potential of Inkjet-Printed Flexible Heaters with Adaptive Temperature Zones for High-Temperature and Long-Time Applications
No full textHerein, the reliability and potential of inkjet-printed flexible heaters are demonstrated by a set of resilience tests, showing never before performed high-temperature application. The flexible heaters can operate up to 400 °C and failures are not caused by the printed conductor, but due to the temperature sensitivity of the base substrate only. Furthermore, these heaters show an accurate repetition rate with fluctuations <3% (2 °C within ten up–down cycles between 20 and 150 °C) and great long-lasting capability (200 h on-time operation at 150–180 °C). The bending strength has been proven by 10 000 cycles with resistance change less than 5%. Additionally, the adaptability and adjustability of defined temperature zones with the help of design rules for the layout definition are illustrated. These inkjet-printed heaters demonstrate a high potential of usage in high-temperature and flexible applications with the prerequisite of high stability and reliability
Higher forestry education in times of multiple crises: crises as framework conditions, challenges and triggers for improvements: Proceedings of the SILVA Network Conference held at the School of Agriculture and Food Science, University College Dublin, Ireland, June 28th – 30th 2022
No full textThe publication Higher Forestry Education in Times of Multiple Crises presents an in-depth analysis of the challenges and transformations in forestry education amid global crises, including the COVID-19 pandemic. It highlights the adaptation of digital learning methods, the impact on practical training, and the necessity of crisis management competencies in forestry curricula. Key findings from emphasize gaps in forestry education, such as limited attention to social issues and traditional knowledge. The proceedings also discuss pedagogical improvements, including reflective teaching methods and professional development for forestry educators. Additionally, the role of international policy initiatives, such as Forest Europe, in shaping forestry education and employment opportunities is explored.:Summary
Pieter Schmidt 1
Introduction
Norbert Weber 4
Keynote: The FAO-ITTO-IUFRO global assessment of forest education – reflections to university education
Mika Rekola 6
Opinion of students of the Faculty of Forestry of the Warsaw University of Life Sciences on remote learning during the pandemic
Marta Aleksandrowicz-Trzcińska, Emilia Janeczko, Karol Bronisz 22
Can online learning deliver quality higher forestry education? A cross-continental analysis
Alex Bimbo Onatunji 34
How to become a better forestry teacher and prepare your students to meet the global challenges
Anne Nevgi, Niclas Sandström, Mika Rekola 51
Forest Europe introduces itself – What is behind the political process?
Vera Steinberg 60
Participants 63
SILVA Network Publications 6
Summary
No full textCrises are part of life on earth and varying in scale (local, regional, global) and time (from short term to long term). Many of them are relevant for forestry and forestry education. Specially, the Covid-191 pandemic is a drastic example, which has had negative impacts on teaching and learning. In his introduction NORBERT WEBER (president of the SILVA Network) stated that this crisis perhaps could have a positive side-effect in a growing competence in digital teaching and learning in higher forestry education. Some examples are discussed below, expanded, as is the tradition in the SILVA Network, with contributions concerning higher forestry education
Beiträge zur Auslegung und zum Betrieb des Modularen Multilevel Matrix Umrichters im Verbund mit Schwungradspeichern für netzstützende Applikationen
No full textDas Stromnetz erfährt eine tiefgreifende Veränderung durch die Umstellung von konventionellen auf erneuerbare Energieträger. So sinkt die Bedeutung von großen Synchrongeneratoren, da sich das Netz von einem generatordominierten Netz hin zu einem leistungselektronikdominierten Netz entwickelt. Im Zuge dieser Entwicklung verschwinden nicht nur traditionelle Generatoren, sondern mit ihnen auch die von ihnen zur Verfügung gestellten Netzdienstleistungen wie Momentanreserve, Spannungsstabilisierung und Kurzschlussleistung.
Diese Arbeit schlägt den Einsatz von Schwungradspeichern großer Leistung (270 MW) zur Stabilisierung großer Netzabschnitte als eine Lösung vor. Diese Speicher benötigen einen elektrischen Antrieb, bestehend aus Generator und Umrichter. Im Rahmen dieser Arbeit wird der Modulare Multilevel Matrix Umrichter (M3C) zur Speisung von doppelt gespeisten Asynchronmaschinen (DASM) bzw. Asynchronmaschinen mit Käfigläufer (ASM-KL) untersucht, um einen drehzahl-variablen Betrieb eines Schwungradspeichers zu ermöglichen.
Das Ziel dieser Arbeit ist es, die genannten Antriebskonfigurationen für die Bereitstellung der oben genannten Netzdienstleistungen zu vergleichen und hinsichtlich Hardwareaufwand und Betriebseigenschaften zu bewerten.
Zunächst erfolgt die analytische Modellierung der benötigten Komponenten, wobei ein Fokus auf dem Verhalten der DASM während Spannungseinbrüchen sowie der Dimensionierung des Schwungrades für die geforderten Netzdienstleistungen liegt.
Für den Betrieb der DASM zeigt die analytische Beschreibung eine hohe Spannungsinduktion in der Rotorwicklung bei Spannungseinbrüchen im Netz. Dies ist sowohl für die Isolation des Rotors als auch bei der Dimensionierung des Stromrichters zu beachten.
Auf Basis der analytischen Modelle wird ein Auslegungsalgorithmus für den M3C entwickelt und auf die beiden Antriebskonfigurationen angewandt. Besonderheiten im Betrieb des M3C bei der Speisung der jeweiligen Maschine werden dabei ebenfalls betrachtet. Hierbei stellt der Autor heraus, dass die in dieser Arbeit erstmals vorgestellte intrinsische Überlastfähigkeit der Stromtragfähigkeit des M3Cs während Spannungseinbrüchen einen großen Vorteil in der Dimensionierung des Konverters für einen hohen Kurzschlussstrom darstellt. Weiterhin zeigt sich, dass der M3C für die Speisung der doppelt gespeisten Asynchronmaschine circa 20 % weniger installierte Schalterleistung benötigt als für die Speisung der Asynchronmaschine mit Kurzschlussläufer. Allerdings benötigt der M3C für die doppelt gespeiste Maschine eine Parallelschaltung von zwei Konvertern, um die Stromtragfähigkeit des Konvertersystems der Last anzupassen. Diese wird in dieser Arbeit nicht weiter betrachtet und muss somit als technisches Risiko aufgefasst werden.
Die Verlustbetrachtung der Schwungradspeichersysteme zeigt, dass das Schwungradspeichersystem mit DASM im Leerlauf geringere Verluste verursacht. Allerdings wird ebenso gezeigt, dass die Leerlaufverluste bei beiden Systemen sehr hoch ausfallen und zu einer Selbstentladungsrate von einigen Prozent pro Stunde führen.
Dies ist nicht nur ineffizient, sondern beeinflusst außerdem die Wahl des netzseitigen Regelungsverfahrens, da somit ein netzstützender und kein netzbildender Ansatz verfolgt wird. Weiterhin werden notwendige Regelungsalgorithmen für Maschine und Umrichter vorgestellt. Diese Algorithmen werden im folgenden Kapitel simulativ geprüft. Außerdem wird die Auslegung des Umrichters anhand der Simulation validiert.
Abschließend wird der Bau einer Testanlage kleiner Leistung vorgestellt. Diese Testanlage besitzt durch die hohe Anzahl an Submodulen (108) und einer verteilten Regelungsplattform hinsichtlich Komplexität, Spannungsstellbereich sowie Flexibilität ein Alleinstellungsmerkmal im Ver-gleich zu anderen bestehenden Anlagen welche in der Fachliteratur vorgestellt wurden. Ausgewählte Experimente an dieser Anlage bestätigen die theoretisch und simulativ erlangten Ergebnisse.:1 Einleitung 1
1.1 Motivation 1
1.2 Stand der Technik 2
1.3 Ziele, originäre Beiträge und Aufbau der Arbeit 8
2 Vorstellung und Modellierung der Systemkomponenten 11
2.1 Definition des Speicherverhaltens am Netzanschlusspunkt 11
2.2 Allgemeine Eigenschaften von Modularen Multilevel-Stromrichter 15
2.3 Modularer Multilevel Matrix Konverter 18
2.4 Doppelt gespeiste Asynchronmaschine 32
2.5 Asynchronmaschine mit Kurzschlussläufer 45
2.6 Schwungrad 49
2.7 Transformatoren 55
2.8 Zusammenfassung 56
3 Auslegung von Modularen Multilevel-Stromrichtern und Vergleich der ausgewählten Topologien 59
3.1 Definition von Strom- und Spannungsgrenzen am Submodul 59
3.2 Auslegung des Modularen Multilevel Matrix Stromrichters 63
3.3 Schwungradspeicher mit Kurzschlussläufer-Asynchronmaschine und M3C 67
3.4 Schwungradspeicher mit doppeltgespeister Asynchronmaschine und M3C 76
3.5 Zusammenfassung und Vergleich 87
4 Regelung der Schwungradspeichersysteme 93
4.1 Netzregelung 93
4.2 Regelung der doppelt gespeisten Asynchronmaschine 96
4.3 Regelung der Asynchronmaschine mit Kurzschlussläufer 97
4.4 Stromrichternahe Regelung des Modularen Multilevel Matrix Konverters 98
4.5 Modulation des M3Cs 102
5 Simulative Untersuchungen der Schwungradspeichersysteme 107
5.1 Trägheitsantwort und schnelle Frequenzantwort 107
5.2 Symmetrischer Spannungseinbruch 110
5.3 Stromrichterauslegungsrelevante Arbeitspunkte 116
6 Modellanlage kleiner Leistung 119
6.1 Aufbau 119
6.2 Schutzkonzept 127
6.3 Vergleich mit bestehenden Modellanlagen 128
6.4 Experimente an der Modellanlange 130
7 Fazit, Ausblick und Zusammenfassung 139
7.1 Fazit 139
7.2 Zusammenfassung 140
7.3 Ausblick 142
Abbildungsverzeichnis A
Tabellenverzeichnis G
Abkürzungsverzeichnis I
Symbolverzeichnis K
Literaturverzeichnis Q
Anhang
Efficient Neural Network Inference on Resource-Constrained Devices
No full textLarge-scale Artificial Neural Networks (ANNs) have gone from academic subject to surpassing human performance in a large number of domains within little more than a decade. What powered this meteoric rise was the availability of enormous—and exponentially growing—amounts of computational capacity.
During the same time, many scandals around data breaches have undermined the public’s trust in the confidentiality of their data, once transferred to the cloud platforms on which ANNs usually run. This trend has sparked interest in running Machine Learning (ML) models not just on centralized and powerful compute systems, but on the edge, close to where the data originates. These devices are often battery-powered and provide several orders of magnitude less compute and memory, compared to modern High Performance Computing (HPC) systems. Training a model based on local data is rarely feasible on such constrained systems. Querying an existing, static model for predictions—a process known as inference—is, however, often achievable, especially for comparatively simple tasks like image recognition and keyword spotting.
This thesis discusses several adaptations to the inference of ANNs to suit the requirements of these resource-constrained systems. First, integer quantization and the use of Approximate Multipliers (AMs) are discussed as a means of reducing the energy consumption of the arithmetic hardware of resource-constrained systems. These hardware multipliers do not provide mathematically exact results under all conditions, which allows them to improve upon accurate hardware in other metrics. When they are used to run a model that was trained using accurate multiplication, they do, however, tend to cause a significant degradation of accuracy. To improve the final model’s accuracy when using AMs, a Graphics Processing Unit (GPU)-backed simulation of their behavior is integrated into the popular ML framework PyTorch. For some designs, the throughput of this simulation is improved upon by up to four times through a novel simulation model in the floating-point domain, which plays to the strengths of the GPUs that are commonly used to carry out the training.
This AM simulation software library is then used to combine the heterogeneous choice of AMs for different layers in a neural network with retraining to improve the model’s performance. Considering the accuracy requirements of each layer in a neural network, rather than uniformly deploying a single AM model throughout improves the accuracy for a given reduction in energy and vice versa. An up to 79% reduction in the energy consumption for multiplications at a less than 1 p.p. drop in accuracy was achieved when combining heterogeneous AM assignment with retraining.
Besides compute, another scarce quantity in a resource-constrained system is memory. Results from previous research suggest that many parameters in a neural network might be redundant and can be replaced with zeroes, leaving a network with sparse tensors. Most research focuses on using this sparsity to accelerate computations, while its use for compression is rarely discussed. This is addressed by developing two encoding schemes for sparse neural network tensors, which achieve both high compression ratios and can utilize the parallel hardware available in many devices to accelerate decompression at runtime. The combination of both schemes achieves a more than 25% reduction in memory consumption at a less than 1 p.p. loss in model accuracy for several different image recognition architectures.
Finally, sparsity and heterogeneous choice of AMs are combined and extended to include a third desirable property in resource-constrained systems: flexibility. The AM choice algorithm is enhanced to allow for a constrained number of AMs to be chosen from a larger search space. If the compute platform allows for reconfiguring the precision of the approximate operator at runtime, The optimization result is used to provide several different assignments from AMs to layers—the model’s operating points. Each of these points strikes a different balance between energy consumption and accuracy and allows for adjusting the Quality of Service (QoS) of the model at runtime. The increase in parameters caused by retraining the same model for different inference environments is addressed with a weight-sharing scheme that keeps the majority of parameters identical between models as well as the use of pruning and compression of the model’s sparse tensors. With this combination, both an up to 50% reduction in energy consumption and a 25% reduction in memory footprint are achieved, at the cost of a worst-case accuracy loss of 1.10 p.p.
This thesis integrates several, usually distinct, aspects of neural network inference from model training to hardware parameters optimization and low-level software. Simultaneously considering these different components that need to come together in a system’s design helps build a deeper understanding away from domain-specific optimizations, and towards optimization of neural network inference on resource-constrained devices as a whole.:ABSTRACT
ACKNOWLEDGMENTS
1 INTRODUCTION
1.1 The Unreasonable Effectiveness of Neural Networks
1.2 Processors at the End of Dennard Scaling
1.3 Intelligent Devices: The Drive Towards On-Device Inference
1.4 Shrinking Neural Networks
1.5 Research Challenges
1.6 Proposed System Design Methodology
1.7 Key Contributions and Thesis Overview
2 PRELIMINARIES
2.1 Neural Networks
2.1.1 Inference
2.1.2 Learning through Backpropagation
2.1.3 Convolutional Neural Networks
2.2 Quantization
2.2.1 Fixed-Point and Floating-Point Representations
2.2.2 Post-Training Quantization and Quantization-Aware Training
2.3 Pruning
2.3.1 Sensitivity Analysis
2.3.2 Iterative Pruning and Fine-Tuning
2.4 Approximate Multiplications
2.4.1 Truncated Multiplier
2.4.2 Logarithmic Multiplier
3 APPROXIMATE MULTIPLICATIONS DURING NETWORK TRAINING
3.1 Introduction
3.2 Related Work
3.2.1 Approximate Multipliers
3.2.2 Approximate Neural Network Training
3.3 Granular Quantization for Approximate Neural Networks
3.3.1 Motivation
3.3.2 Approximate Per-Channel Quantization
3.4 From Fake-Quantization to Fake-Approximation
3.4.1 Rationale
3.4.2 Modeling Approximate Multiplications as a Composition of Transformations and Accurate Product Functions
3.4.3 Required Properties and Limitations
3.5 Analytic Implementation of Fake-Approximation
3.5.1 Modeling Logarithmic Approximate Multipliers
3.5.2 Performance Considerations for GPUs
3.6 Data-driven Implementation of Fake-Approximation
3.6.1 Modeling Truncated Multipliers
3.6.2 Determining Model Parameters through Linear Regression
3.7 Generalization of Fake-Approximation to Arbitrary Circuits
3.8 Design Considerations for the TorchApprox Software Toolkit
3.9 Accuracy Impact of Quantization Granularity
3.9.1 Aggregate Evaluation on a Population of Models
3.9.2 Impact on Individual Models
3.10 Fidelity and Throughput of the Proposed Floating-Point Models
3.10.1 Experimental Setup
3.10.2 Evaluation
3.11 Inference Throughput of Approximate Deep Learning Frameworks
3.11.1 Experimental Setup
3.11.2 Evaluation
3.11.3 Comparison with TFApprox
3.12 Conclusion
4 MODEL SENSITIVITY TO APPROXIMATE MULTIPLICATIONS
4.1 Introduction
4.2 Related Work
4.2.1 Retraining for Approximate Multiplications through Gaussian Noise
4.2.2 Heterogeneous Approximate Multiplier Assignment
4.3 Modeling Approximate Multiplication as Noise
4.3.1 Propagation of Small Numerical Errors in a Neuron
4.3.2 Handling of the Error Mean
5.7 Case Study: Large Sparse vs. Small Dense MobileNetV2 on CIFAR-10
5.8 Hybrid Compression for Image Classification Tasks
5.8.1 Accuracy and Sparsity
5.8.2 Extraction Throughput
5.9 Conclusion
6 ADAPTIVE APPROXIMATE COMPUTING AND SPARSITY
6.1 Introduction
6.2 Related Work
6.3 n-constrained Multiplier Selection
6.3.1 Rationale
6.3.2 Input Preparation and Clustering
6.3.3 Interpretation of Clustering Results
6.4 Extending to Multiple Approximate Operating Points
6.5 Model Size Reduction
6.5.1 Rationale
6.5.2 Importance of Error Mean
6.5.3 Fine-Tuning Scheme
6.5.4 Sparsity for Shared Weights
6.6 Optimization of a Single Operating Point
6.6.1 Training Setup
6.6.2 Reference Optimization Techniques
6.6.3 Achieved Accuracy
6.7 Impact of Multiple Operating Points
6.7.1 Training Setup
6.7.2 Accuracy and Model Size
6.7.3 Model Compression through Sparsity and Hybrid Encoding
6.8 Conclusion
7 CONCLUSION AND OUTLOOK
7.1 Conclusion
7.2 Outlook
BIBLIOGRAPHY
APPENDIX
A Use of Large Language Models in the Writing of This Thesis
B Approximate Multiplication Training Framework
B.1 Network Training Setup
B.2 Experimental Results
C Compressed Sparsity
C.1 Likelihood of Element Groups
C.2 Spacing of Elements
C.3 Impact of Group Occupancy θ on Partitioning
C.4 Binary Group Mask
C.5 Keyword Spotting Reference Architectur