大規模言語モデルは新たな知能か

岡野原　大輔  著　「大規模言語モデルは新たな知能か」メモ　

大規模言語モデルは新たな知能か　ＣｈａｔＧＰＴが変えた世界 (岩波科学ライブラリー)

岡野原　大輔　著
「大規模言語モデルは新たな知能か」メモ

2　巨大なリスクと課題

＜まとめ＞

・大規模言語モデルの幻覚(hallucination)は人間の「記憶違い」と同様の現象で、破滅的忘却と汎化により発生。
・大規模言語モデルからの回答には誤情報が含まれるため、情報の信憑性を正確に判断するための仕組みが必要。
・大規模言語モデルの開発は一部に独占される傾向にあるが、オープン化の動きもある。