Bethge Lab

Bethge Lab

University of Tübingen (Tübingen AI Center) · Entreprise

Bethge Lab est un groupe de recherche en IA du Tübingen AI Center, dirigé par Matthias Bethge, qui étudie l'auto-amélioration récursive des agents et publie ses benchmarks, son code et ses données en accès libre.

Aperçu de l'interface de Bethge Lab

À propos de Bethge Lab

About

Qu'est-ce que Bethge Lab

Bethge Lab est le groupe d'apprentissage automatique de Matthias Bethge à l'université de Tübingen, hébergé au Tübingen AI Center. C'est un laboratoire de recherche en IA académique et à but non lucratif, et il travaille ouvertement avec Open Athena, une organisation qui met les capacités d'IA de pointe à la portée du monde académique. Le groupe publie des articles, du code, des benchmarks et des données au lieu de vendre un produit.

Toute la recherche tient sur une question : comment les systèmes d'IA continuent-ils d'apprendre une fois déployés? Un modèle figé au jour de sa sortie cesse de progresser, d'où la place centrale du post-entraînement et de l'expérience longue comme terrain où le modèle trouve du neuf. Le travail se répartit en trois axes : auto-amélioration récursive, apprentissage humain à l'ère de l'IA et modèles de fondation pour les neurosciences.

Mieux vaut connaître les limites avant de bâtir un plan dessus. Il n'y a ni service hébergé, ni contrat de support, ni feuille de route privée. Les résultats sortent au rythme des conférences, chaque dépôt connaît un entretien inégal et le laboratoire creuse volontairement un ensemble étroit de questions. Vous obtenez du code de niveau recherche et une évaluation honnête, pas une relation fournisseur.

Premiers pas

  1. Ouvrez bethgelab.org et choisissez l'axe le plus proche de votre problème, car chacun liste ses propres publications.
  2. Lisez l'article derrière le benchmark qui vous intéresse, clonez son dépôt et vérifiez la licence avant de construire dessus.
  3. Lancez le benchmark sur votre propre modèle ou squelette d'agent et regardez les scores par échantillon, pas seulement la moyenne.
  4. Citez l'article et indiquez la version utilisée : plusieurs de ces benchmarks s'étendent à mesure que de nouveaux modèles arrivent.
  5. Pour une collaboration ou une candidature, passez par le formulaire du site plutôt que par courriel. La revue est mensuelle.

Informations sur le produit

Aperçu des tarifs, des plateformes compatibles et des performances de Bethge Lab.

Offre gratuiteOui
Offres payantesN/A
PlateformeWeb; open code and datasets on GitHub
DéveloppeurUniversity of Tübingen (Tübingen AI Center)
CatégorieEntreprise
Date de lancementJan 2010
Dernière mise à jourOct 2026
Visites du site4K
Classement mondial du site4.2M
Disponibilité de l’APINon

Idéal pour

Les utilisateurs, tâches et cas d'usage où cet outil convient le mieux.

Utilisateurs

  • Chercheurs en machine learning
  • Équipes d'évaluation en laboratoire d'IA
  • Chercheurs en neurosciences et en vision

Tâches

  • Vérifier si un agent peut post-entraîner un modèle
  • Tester votre propre évaluation d'agents
  • Trouver des données d'entraînement ouvertes

Cas d'usage

  • Choisir un harnais d'évaluation avant une sortie de modèle
  • Revue de littérature sur l'apprentissage continu
  • Animer un séminaire de master

Fonctionnalités clés

PostTrainBench pour automatiser le post-entraînement

PostTrainBench demande si un agent LLM peut prendre un modèle de base et le post-entraîner sans personne dans la boucle. L'agent reçoit un budget de calcul fixe et le modèle obtenu est noté sur des tâches réservées, si bien que le gain apparaît en chiffres plutôt qu'en promesse. Les équipes s'en servent pour comparer des squelettes d'agent à armes égales. C'est ce qui ressemble le plus ici à un test de charge pour du travail de ML autonome.

Évaluation par échantillon avec ONEBench

ONEBench note chaque échantillon au lieu d'écraser une exécution en une moyenne. Cela compte quand un modèle progresse sur les consignes faciles et casse en silence sur les difficiles. Le benchmark est conçu pour grandir à mesure que de nouveaux modèles et tâches arrivent, donc les anciens scores ne restent pas figés. Vous pouvez ajouter vos propres jeux et garder la comparaison honnête.

Suivi du processus pour agents longue haleine

AlgoTune vérifie si un modèle sait écrire du code numérique réellement plus rapide, et QVal mesure quelles étapes d'une longue exécution ont servi. Les deux visent la part du travail d'agent que la justesse de la réponse finale masque. Si vos agents enchaînent des dizaines d'étapes, vous obtenez là un signal moins coûteux qu'une relecture humaine de chaque trace.

Jeux de données ouverts pour vision et langage

DataComp-VLM fournit des données image-texte filtrées avec des références publiques, et LAION-BVD ajoute 10 millions d'heures de vidéo ouverte pour le pré-entraînement multimodal. Les deux se construisent ouvertement, décisions de filtrage documentées à l'appui. Les chercheurs y viennent quand licences ou curation opaque bloquent l'expérience envisagée.

CiteME et la vérification des agents de recherche

CiteME demande si un modèle de langage retrouve l'article derrière une affirmation scientifique. La tâche est étroite et la réponse vérifiable, ce qui repère les modèles qui sonnent sûrs d'eux sans rien citer. Le laboratoire étudie aussi comment les capacités découlent des données d'entraînement, donc une citation fausse se remonte au lieu d'être seulement comptée.

Prédiction du regard avec DeepGaze

DeepGaze3.5-VL prédit où les gens regardent en traitant les parcours oculaires comme des séquences de tokens et en s'appuyant sur des modèles vision-langage. Les versions précédentes de la même lignée servent encore en saillance, et les données sous-jacentes sont publiques. Les équipes UX et vision y recourent quand il leur faut un modèle de l'attention plutôt qu'une carte de chaleur tirée d'un petit échantillon.

openretina et modèles de rétine partagés

openretina est un projet collaboratif qui entraîne des modèles de rétine sur plusieurs jeux de données, laboratoires et espèces. Au lieu qu'un seul groupe accumule les enregistrements, modèles et données circulent pour que les résultats se comparent. Les groupes de neurosciences s'en servent comme référence commune, l'objectif de fond étant un récit cumulatif de la vision biologique.

Avantages et inconvénients

Avantages

  • Tout sort ouvertement. Articles, code, benchmarks et données sont publics, de quoi vérifier une affirmation au lieu de faire confiance à un classement.
  • L'évaluation est honnête jusqu'à la gêne. Les scores par échantillon et les métriques de processus exposent des régressions qu'un seul chiffre de justesse cacherait.
  • L'agenda reste resserré. Trois axes, chacun avec des publications récentes, et vous savez vite si votre problème entre dans le cadre.
  • Les benchmarks vivent. ONEBench et ses voisins absorbent les nouveaux modèles, donc un score de l'an dernier veut encore dire quelque chose.

Inconvénients

  • Il n'y a rien à acheter. Pas d'API hébergée, pas de tableau de bord, pas de support : installation, calcul et débogage restent à votre charge.
  • La qualité des dépôts varie. Certains sont entretenus, d'autres sont un artefact d'article, alors regardez le dernier commit avant d'en faire une dépendance.
  • Le périmètre est étroit par choix. Si votre question sort de l'évaluation d'agents, du post-entraînement ou de la vision computationnelle, le laboratoire aura peu à offrir.
  • Le rythme est académique. Un résultat peut paraître dans un article des mois avant que le code soit assez propre pour être réutilisé.

Questions fréquentes

Non. C'est un groupe de recherche académique et à but non lucratif de l'université de Tübingen, hébergé au Tübingen AI Center et dirigé par Matthias Bethge. Aucune branche commerciale ne vend l'accès aux travaux.