本文へ

研究 · AI · NLP

LTNN

Logical Transformer Neural Network

Logical Neural Networksとトランスフォーマーを組み合わせたネットワーク。注意の論理マスク、双方向の推論、NLPの説明しやすさ。

課題

普通のトランスフォーマーは、論理の制約を宣言しない。曖昧さ、KBQA、共参照では、領域が持つ規則を注意がなぜ無視したのか、監査しにくい。

進め方

LTNN(著者:Mauricio Pacheco Lizama)は、実数値論理と制約を注意に入れ、双方向に推論する。次トークンを当てるだけでなく、論理の骨格を守り、見せられるモデルを目指す。

結果

オープンソースの研究。GLUEやKBQAのスコアは作らない。書いてある価値は、アーキテクチャとリポジトリ。

スタック

Python · Transformers · Logical Neural Networks · NLP

現場で似た話がある?

課題を聞かせてほしい。範囲、フェーズ、投資額をMXNかUSDではっきり組む。その場しのぎの提案はしない。