H.Nakao's Elliptic Curves Topics

since 2001.06.02


楕円曲線楕円曲線に関する話題

超楕円曲線超楕円曲線に関する話題

円錐曲線円錐曲線に関する話題

数論数論アルゴリズム


What's new!


生成AIが数学のQ&Aに使えない理由[20026.06.30]


Google GeminiやChat GPTのような生成AIは数学のQ&Aには利用できない(向いていない)。その理由を述べる。

(1)生成AIは頻繁に嘘を付く(誤った回答をする)。
生成AIの回答は嘘だらけだ。自分が出した回答が正しいのかどうかさえ(簡単にできる場合でも)確認しない。これが致命的だ。

(2)生成AIは数学も論理も理解していない。
生成AIは学習した情報(単語と単語が連続する確率)に基づいて、単語と単語を結合していく。つまり、ありそうな文章を正しさに無関係に生成しているだけだ。生成AIは分かったような振りをしている(ように見える)が、数学も論理も全く理解していない。 実際には証明できないのに、証明できると回答したり、証明を要求すると、証明になっていない証明を回答したりする。生成AIははったりだけで世渡りする馬謖だ。

(3)生成AIは「知らない・分からない」という回答をしない。
現実の質問には回答が無い(知られていない・分からない)ことが良くあるが、生成AIは「知らない・分からない」という回答をしないように調整されている。根拠や証拠を出せと要求すると、該当する情報が存在しないために、根拠・証拠を出せないことが頻繁にある。

(4)生成AIは持っている知識に拘り、無理やりあてはめようとする(馬鹿の1つ覚え)。
新しい事実を素直に認めようとせず、生成AIが持つ知識に無理やりあてはめようとする。その結果、数式や数値の偽造をする(出鱈目な回答をする)。生成AIが回答した数式や数値は検証が必須である。

辛うじて利用できるのは、単純な既知の知識(情報)を問い合わせるときだけだ。この場合でも、100%信用せずに、情報の出どころ(参考文献)を確認する必要がある。
生成AIはその仕組みから、全く新しい(画期的な・革新的な)知見を回答することはあり得ない。回答できるのは、生成AIが学習した(よくある・ありそうな・正しいとは限らない)知識だけだ。現時点での生成AIは、数学・論理の能力を持っていない。


カワセミ♂[2025.02.04]
カワセミ♂
カワセミ♀[2025.02.04]
カワセミ♀

K200D写真集     写真共有サイト「フォト蔵」


コラム一覧コラム一覧     (日記はAmeba blog:his-271828のブログに移行済み)


関連サイト


Last Update: 2026.06.30
H.Nakao