(engl.) to boot [buːt] sth. – hoch­fahr­en, jmd./etw. ein­en Kick ge­ben, jmd./etw. be­reich­ern.

Un­ser Na­me ist Pro­gramm! Bei boot.AI wer­den AI-Pro­duk­te hoch­ge­fahr­en, Visionen bekommen bei uns den nötigen Kick zum Starten – im­mer mit dem Ziel, Organisationen und ihre Menschen zu be­reic­hern.

ready to boot AI?

AI-Führungskräftetraining

boot.AI-Technologie

Kontakt

Auf­merk­sam­keits­me­cha­nis­mus (im Natural Language Processing)

Der Auf­merk­sam­keits­me­cha­nis­mus bezieht sich auf die Idee, dem De­coder zu er­lauben, sich bei jedem Schritt der Aus­ga­be­ge­ne­rie­rung um ver­schie­dene Teile eines Quell­satzes zu kümmern, anstatt den ge­samten Satz in einen Vektor fester Länge zu ko­dieren. Das Modell lernt, worauf es zu achten hat – ba­sierend auf dem Ein­ga­be­satz und dem, was es bisher pro­duziert hat.

Eines der Pro­bleme, mit denen die Forscher zu kämpfen hatten, ist die Frage, wie man Per­sonal­pro­nomen mit zu­gehö­rigen Sub­stan­tiven verknüpft, was zu diesem alten Witz führte, der den Ruf und die Re­aktion eines Protest­mar­sches nach­ahmt:
Was wollen wir? – Natural Language Processing!
Wann wollen wir es? – Ent­schul­digung, wann wollen wir WAS?

Ein neuro­nales Netz­werk, das mit einem Auf­merk­sam­keits­me­chanis­mus aus­gestattet ist, kann tat­sächlich verstehen, worauf sich „es“ bezieht. Das heißt, es weiß, wie man den Lärm igno­riert und sich auf das We­sent­liche kon­zen­triert.