Über unsTopKurse
← heapsort-ai

Natural Language Processing

168 items

ARTICLEDEV.to AI·4/24/2026

GoDavaii's Day 5: When 22 Indian Languages Redefine 'Hard' in Health AI

GoDavaii stellt sich der technologischen Herausforderung der Gesundheits-KI in Indien und konzentriert sich auf das Verständnis von Gesundheitsbeschreibungen in 22 lokalen Sprachen mit ihren kulturellen Nuancen. Das Unternehmen betont, dass die Interpretation kulturell spezifischer Gesundheitsausdrücke viel komplexer ist als die direkte Übersetzung, eine Herausforderung, die globale Gesundheits-KIs oft übersehen.

Multilingual AIIndiaAI in healthcareNatural Language Processing
27
ARTICLEDEV.to AI·4/27/2026

Building Smart Student Engagement Detector: An AI-Powered Early Learning Issue Detection System using ML, NLP & Multimodal Analytics

Dieses Projekt beschreibt ein KI-gestütztes System zur Erkennung des studentischen Engagements, das ML, NLP und multimodale Analysen nutzt, um frühe Anzeichen von Lernschwierigkeiten zu identifizieren. Ziel ist es, einzugreifen, bevor akademische, Anwesenheits- oder Verhaltensprobleme eskalieren und sich in den Noten widerspiegeln.

Multimodal Analyticseducationmachine learningNatural Language Processing
27
RESEARCHarXiv CS.CL·4/7/2026

Text Summarization With Graph Attention Networks

Este estudo explorou o uso de informações de grafos (RST e Co-referência) para sumarização de texto, descobrindo que Redes de Atenção Gráficas não melhoraram o desempenho, enquanto um Perceptron Multicamadas obteve sucesso. Adicionalmente, foi criado um novo benchmark para sumarização baseada em grafos ao anotar o dataset XSum com informações RST.

Graph Attention NetworksRhetorical Structure Theorymachine learningNatural Language Processing
27
RESEARCHarXiv CS.LG·4/6/2026

SIEVE: Sample-Efficient Parametric Learning from Natural Language

SIEVE propõe um método para aprendizado paramétrico com eficiência de amostra a partir de contexto de linguagem natural, necessitando de apenas três exemplos de consulta. Ele emprega uma pipeline de geração de dados sintéticos, SIEVE-GEN, que decompõe o contexto para gerar resultados de maior qualidade e destilar o contexto no modelo.

language modelsSample Efficiencycontextual learningmachine learning
27
RESEARCHarXiv CS.AI·4/23/2026

Algorithm Selection with Zero Domain Knowledge via Text Embeddings

Der Artikel stellt ZeroFolio vor, einen feature-freien Algorithmus-Auswahlansatz, der vortrainierte Text-Embeddings von Rohinstanzdateien verwendet. Diese Methode, die kein Domänenwissen erfordert, übertrifft traditionelle Ansätze mit handgefertigten Features in den meisten bewerteten Szenarien über verschiedene Problemdomänen hinweg.

machine learningNatural Language Processingalgorithm selectionzero-shot learning
27
RESEARCHarXiv CS.AI·4/23/2026

Automated Detection of Dosing Errors in Clinical Trial Narratives: A Multi-Modal Feature Engineering Approach with LightGBM

Diese Forschung stellt ein automatisiertes System zur Erkennung von Dosierungsfehlern in klinischen Studienberichten vor, das LightGBM mit umfassendem Multi-Modal-Feature-Engineering nutzt. Der Ansatz kombiniert traditionelles NLP, semantische Embeddings, medizinische Muster und Transformer-Scores, um eine hohe ROC-AUC auf einem unausgewogenen Datensatz zu erzielen.

machine learningNatural Language Processinghealthcare AI
27
RESEARCHarXiv CS.AI·4/23/2026

Exploring Data Augmentation and Resampling Strategies for Transformer-Based Models to Address Class Imbalance in AI Scoring of Scientific Explanations in NGSS Classroom

Diese Studie untersucht Datenaugmentierungsstrategien zur Verbesserung der auf Transformatoren basierenden Textklassifikation für die automatisierte Bewertung wissenschaftlicher Erklärungen von Schülern, um das Problem der Klassenungleichheit anzugehen. Sie bewertet Methoden wie von GPT-4 generierte Antworten, EASE und ALP im Vergleich zu einer SciBERT-Baseline, basierend auf einem Datensatz von 1.466 High-School-Antworten.

machine learningNatural Language Processingeducation technologyData Augmentation
27
RESEARCHarXiv CS.CL·5/6/2026

MedStruct-S: A Benchmark for Key Discovery, Key-Conditioned QA and Semi-Structured Extraction from OCR Clinical Reports

MedStruct-S ist ein neuer Benchmark für die semi-strukturierte Informationsgewinnung aus OCR-abgeleiteten klinischen Berichten, der Herausforderungen wie heterogene Schlüsselrepräsentationen und OCR-Rauschen adressiert. Er zielt darauf ab, die Modellrobustheit in realen Szenarien für die Schlüsselentdeckung, schlüsselkonditionierte QA und die Extraktion von Schlüssel-Wert-Paaren zu bewerten.

Information Extractionclinical reportsBenchmarkingNatural Language Processing
27
RESEARCHarXiv CS.CL·5/6/2026

Geometric Deviation as an Unsupervised Pre-Generation Reliability Signal: Probing LLM Representations for Answerability

Diese Forschung untersucht die Verwendung geometrischer Abweichungen von LLM-Hidden-States als Vor-Generierungs-Signal, um anzuzeigen, wann eine Abfrage außerhalb des Wissensbereichs des Modells liegt. Es wurde festgestellt, dass dieses Signal bei unbeantwortbaren mathematischen Prompts gut funktioniert, jedoch nicht bei faktischen Prompts.

LLMsresearchModel EvaluationReliability
27
RESEARCHarXiv CS.CL·5/6/2026

How Language Models Process Negation

Diese Studie untersucht, wie große Sprachmodelle (LLMs) die Negation mechanistisch verarbeiten, und zeigt, dass selbst Open-Weight-Modelle interne Komponenten für die korrekte Negationsverarbeitung besitzen, obwohl sie oft falsche Antworten liefern. Ihre geringe Genauigkeit wird auf die Aufmerksamkeitsleistung späterer Schichten zurückgeführt, die einfache Abkürzungen fördert, und die Modelle nutzen sowohl die Aufmerksamkeit auf negierte Phrasen als auch die direkte Konstruktion negativer Phrasendarstellungen.

LLMsMechanistic Interpretabilityattention mechanismsNatural Language Processing
27
RESEARCHarXiv CS.CL·5/6/2026

S^2tory: Story Spine Distillation for Movie Script Summarization

S^2tory ist ein narratologisch fundiertes KI-Framework zur Zusammenfassung von Filmskripten, das die Komplexität nicht-linearer Erzählstrukturen durch die Identifizierung von "Handlungskernen" mittels Charakterentwicklungstrajektorien adressiert. Es verwendet einen Narrativen Expertenagenten, um Wissen zu destillieren, das dann ein kleines Modell zur Identifizierung wesentlicher Handlungspunkte für die Zusammenfassungsgenerierung konditioniert.

machine learningnarrative AINatural Language Processingsummarization
27
DOCAndrej Karpathy (YouTube)·2/20/2024

Let's build the GPT Tokenizer

Dieser Inhalt bietet eine praktische Anleitung zum Aufbau eines GPT-Tokenizers, in der die grundlegenden Schritte und Konzepte detailliert beschrieben werden. Er erläutert, wie GPT-Modelle Text verarbeiten, indem sie ihn für die Analyse in kleinere Einheiten umwandeln.

GPTlearningNatural Language Processingtokenizer
Let's build the GPT Tokenizer
27
ARTICLEDEV.to AI·5/2/2026

Advances in Multimodal AI: Researchers Develop New Framework for Fusion of Vision and Language

Multimodale KI, die mehrere Datenquellen wie Vision und Sprache integriert, gewinnt aufgrund der zunehmenden Digitalisierung und vielfältiger Anwendungen in verschiedenen Sektoren an Bedeutung. Eine zentrale Herausforderung bleibt jedoch die effektive Fusion unterschiedlicher Datentypen mit verschiedenen Verarbeitungsanforderungen.

multimodal AIcomputer visionNatural Language Processing
26