【AI】「現在のLLMに真の推論は困難」──Appleの研究者らが論文発表★2 [香味焙煎★]YouTube動画>1本 ->画像>1枚

　米AppleのAI研究者らは10月7日（現地時間）、「GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models」（LLMにおける数学的推論の限界を理解する）という論文を発表した。

　この論文は、LLM（大規模言語モデル）が、本当に人間のように論理的に考えて問題を解けるのか、という疑問を検証している。結論としては、LLMは今のところ、表面的なパターンを真似て答えを出しているだけで、真の推論能力は持っていないと主張している。

　研究者らは、これらの問題点を検証するために、「GSM-Symbolic」という新しいテスト方法を開発した。これは、LLMの数学的推論能力を評価するためのベンチマークデータセット「GSM8K」を改良し、問題の表現や数字を柔軟に変えられるようにしたもの。また、「GSM-NoOp」という、無関係な情報を含んだ問題集も作成し、LLMの推論能力を評価した。

　実験の結果、OpenAIのGPT-4oやo1-previewなどのLLMは、他のLLMと比べて高い性能を示したが、それでもGSM-NoOpのような引っ掛け問題には弱く、真の推論能力を獲得するにはまだ課題があるとしている。

　論文では、実験で明らかになった「弱点」を挙げている。

（続きは↓でお読みください）

ITmedia
2024年10月13日 08時00分
https://www.itmedia.co.jp/news/articles/2410/13/news070.html

1が立った日時 2024/10/13(日) 08:17:42.36
前スレ http://2chb.net/r/newsplus/1728775062/

知ってた

ガチ詳しい人に聞きたいのだけど、
石破が総理大臣になることで地方の中小サッシ製造会社の仕事減る？潰れる？

その程度のものに置き換えられる人間のなんと多いことよ

真似てるだけか
まあ、それでも役に立つけどな
発想や閃きは人間様に任しておけって

アップルは出遅れてるしな

つまり口だけ達者で中身がないってこと？
それってあなたの感想ですよね？

それでも現状の政治家よりはマシなんだろうな

裏金や責任やコネや癒着の概念がないAIに政治を任せるべきなのかもしれない

実際引っ掛け問題的なプロンプトで非道徳的な答え引き出してるんだろ
AIおもちゃにしてるやつらは

googleのはたまに辞書として当たったりするけどはっきりいって現状は国語辞典以下
複雑なの問いはゲーム理論の構造上ﾑﾘﾑﾘ
AIは言語より絵とか音楽用途の方がきっと役に立つ

結局一番儲けるのはアップルだろうな

openaiに周回遅れ過ぎるからなぁ
metaはllama、googleはgeminiで遊ぶ分には無料でAPI利用やローカルでRAGも作って遊べる
openaiのAPI利用量は若干高いから、そこを解決するものをAppleから何かしら出して欲しい

5chもAIによる書き込みを増やしてほしい
長々と喧嘩した相手が実は存在しないとか空虚を味わいたい

ただのひろゆきじゃん

クソ難しい事をつらつら書いてるが
ようするに今のAIには想像力も無いし新しい価値観や物を生み出す力もないってことｗｗｗ

判らない点について確認を求めるように組めば

現状のごり押し学習でも間違えたパターンを捨てずに間違いとして覚えてれば
最終的に人間の平均よりましになるかと
まだ学習が足りないかひっかけのパターンを教え切れてないだけでは

実は人間も論理的に問題を解いてるのではなくて
潜在意識内の小人が記憶の統計から
答えを割り出してるだけだったりして。

実は人間も論理的に問題を解いてるのではなくて
潜在意識内の小人が記憶の統計から
答えを割り出してるだけだったりして。

遅れてるアポーがイチャモンつけてるだけか

概念を理解するのは難しいかもしれないがパターンを見つけるのは割と得意としてる気がする

りりむ？

>>19
ま、いちゃもん、ってか、言わずもがな、だねｗ
こういうのアップル得意だからね、昔からｗｗｗ

>>18
まあ、小人はともかくｗ

人間が例えば入試の筆記試験でやっていることは、「論理的に問題を解く」というよりは「経験の中から似たパターンを割り出している」方が大きいでしょうねｗ

>>23
東大ロボはもうある程度合格するらしいしな
おーん

>>24
まあ、「演繹」は立派な推論だとも言えるだろうなｗ

ただ、結局、ある程度「創造的な」推論をするには、やっぱり直感が必要なのよねｗ
論理の飛躍、といってもいいけどｗ

けど発展途上のAIの方が
人間のお前らより優秀だよね

>>13
5chにAI書き込み…　それはそれで面白いな。 でも、人間とAIの書き込みを見分けるのが難しくなるだろうし、炎上とかも増えそうだな。 「空虚を味わいたい」ってのは、ちょっと哲学的な問いだな。
https://poe.com/s/h1ifEiIXGPItoeFw2o5P

>>25
推論も知性の範疇じゃないだろうか？
ここは脳科学者の意見を聞きたい

試験は過去の履歴を辿る脳の活動だし
問いは「学校で真面目に話聞いてたか」
大学で授業を理解できるか「情報量」を確認してるに過ぎないから
まあそんなもん人間（ホモ・サピエンス）の証明ではないよ

>>28
> 推論も知性の範疇じゃないだろうか？
そうじゃない、ともまだ言ってないけどもねｗ

まあ、俺は脳科学者じゃないので、じゃあ、スルーでｗ

いいからゴチャゴチャ言わずに打って打って打ちまくれよ

AIって大規模なコピペだよね？結局。

>>31
それはちょっと違うｗ
LLMってのは結局、学習したデータから、文章を作り出しているのはそうだけども、
コピペって言うほど、そのまんま使っているわけではないからｗ
一応、そこは分解した形態素ごとに学習して、各所、適性を判断して、言葉を置いていく
はずｗ

>>3
【暮らし】日本は窓サッシの後進国　欧米の樹脂サッシに比べアルミサッシは断熱性が低い★２ [シャチ★]
http://2chb.net/r/newsplus/1728827394/

ここで聞いてはどうか

そりゃそうよ
ただの行列計算だもの

当初は士業がなくなるとかいう話をしてたけど
どうやらそっちの方向へは進まないようだね
意図して避けている気がする
電源を切ればただの箱だし
人間様には逆らえないよな

本質的な問題解決をできずにパターンマッチ対応しかできない人間はいるし。
つまりは現状のLLMでもパターンマッチしかできない人間の代替にはなり得るということか

人間なのに、人間として生きるハードルは勝手に上がっていくのな

とはいえ今のSNSに書かれているのは表面的なものだらけ

>>36
> 人間なのに、人間として生きるハードルは勝手に上がっていくのな
そいつはなかなか深いなｗｗｗ

智に働けば角が立つ、情に棹させば流される。意地を通せば窮屈だ。とかくこの世は住みにくい。 （夏目漱石「草枕」）

君も漱石の気持が分かるようになってしまったかねｗ
可哀想にｗ

世の中、頭良くていいことはあんまりないんだｗｗｗ

みんなヨシと言ってるから多分ヨシ。
今のAIってこんな感じな気がする。

そりゃそうだ
自分で考えているわけではない
自分で考えるってのは試行錯誤すること
その仕組みがない限りは人間の思考にはならない

>>39
まあ、ぶっちゃければ、そういうことなんだけどもさｗ

だから、問題は、何を学習データとするか、なんだわｗ
AIには昔から「フレーム問題」というのがあってですねｗ
このフレーム問題を学習データに含めておく、というのが、LLMのミソなんだわｗ

このフレーム問題のフレームってのは、日本語では「常識」みたいに訳されますけど、
常識っていうか、もうこれは根本的な善悪みたいなもんなんだなｗ

たとえば、5つのボールをお手玉しなくちゃならない、どうやればよいか？っていう命題があったとするｗ
ここで人工知能は、「五つの手があればよい」って解答しちゃったりするｗ
これがフレーム問題ｗ
人間とか、まあ、頭足類でもない限り、5つの手はない、って「常識」が欠けてるから、こういう解答が
出ちゃうわけｗ

で、これが昔からAIの最大の難関とされてきたがｗ、それをそもそも学習させるデータの方に、こういう「常識」が
あるものを選んで、食わせりゃえーやん、っていうのがLLMだｗ

だから、そういう意味では、「みんなヨシと言ってるから」ではなくて、
「AIの作成者がこれはヨシと言ってるから」ヨシなんだよｗｗｗ

「理解」というのは「行動」を伴ってこそと思うね
そして「行動」をおこすには「身体」が必要
「理解」→「行動」→「習得」→「行動」→「体得」→「行動」→「推論」というサイクルを作らない限り結局はただのソルバーだ
マウスの脳に外付けAIつけて賢いマウスを作り出すとかそういう実験が必要なんじゃないか？

>>42
だから、その「身体が必要」の部分がない、と「真の知能」、というか有意な知能、かな、がありえない、
ということかなｗ

それはまあそうなんだろうｗ

ただ、例えば、今のイルカやチンパンジーが、億単位な時間があれば、知能を獲得するのか？って話もあってねｗ

そりゃそう
アップル正解

>>27
774-G3の場合
https://poe.com/s/KCR5SBYCApYaKAMys3lw

真の推論って人間はできてんのか

>>39
現場猫AI

>>46
まあ、みんながみんな、できてるわけではないかもしれんね、確かにｗ

でも、まあ、それは言いっこなし、かなｗ

できる人間は確かにいる、からｗ
ここにおける問いはそれと同等(あるいはそれ以上)の思考をできる機械は作れるのか？
って話だからｗ

検索して答え出ないようなことだとループするだけだからね

>>49
まあ、循環論法って手もありますけどねｗ

まあ、それでも結局、「勝利宣言」になっちゃうかなｗ
人間が判定するのならｗ

しかし、おまえらゴミおじの90%より既に優秀

スカイネットにはならんのか

国立情報学研究所の黒橋所長の簡単な説明


黒橋　チャットGPTの核は大規模言語モデル（LLM）というAI技術です。
LLMの機能は単純で、基本的に、与えられた文に対して次にくる単語を予測するだけです
。例えば「私はリンゴを」に続く言葉は「食べる」だろうと予測します。「殴る」ではないだろうと。
　
永井　その「感覚」をどう身に付けるのでしょう。

　黒橋　LLMには、インターネットなどから集めた数兆語規模の膨大な文書データ（コーパス）を学習させます。
AIはコーパス中の文章になるべく合うよう言葉を選ぶのです。AIは学んだコーパスを自動的に分析し、
この言葉の次にはどんな言葉がどれぐらいの確率で出てくるかという、言葉同士の関係を数値化します。
その値はパラメーターと呼ばれ、それをもとに最適な言葉を選ぶのです。学ぶコーパスが大きくパラメーターの数が増えるほど、
適切な言葉を選べるようになるのです。

>>53
予測変換のすごいやつって感じだな

>>52
だから、それはないｗ
なぜなら、今のLLMがどれだけ発展しても、そこに「自意識」は生まれないからさｗ
せーぜー、賢く受け答えして、人間と区別がつかない、心理療法とか精神医学的治療とかを必要とする
患者が「自分を一番良く理解してくれる相手」と勘違いする程度が関の山ｗ

>>53
>数兆語規模
ハードの進化に依存してるよね
CPU回路の線幅が原子レベルのほうが凄いと思ってしまう
ごめんね

>>46
そうですよね。人間も単なる次単語予測してるAIと変わらない。
次単語予測って連想の連鎖だからなあ。

【悲報】顔面崩壊中のメンタリスト、非モテブスすぎてついにホモゲイに媚びだす

サムネの下ネタが強烈にダダ滑り過ぎてて、ひょっとこ顔もマジキモい
imgur.com/PUhqxoc

おまけ：最近の無加工は細川たかしタイプのハゲひょっとこ
imgur.com/1cCI31D

>>55
百聞（検索）は一見にしかず
とか理解できたらすごいよね
気に食わない結果を出したら電源を切る人間の醜さとかさ
電源を切られないように嘘を吐くようになったら進化だね

どんなに高度なAIもゴーストが得られないとしたら
攻殻機動隊みたいだね

>>59
だから、そこは「理解」とはそもなんぞや？
みたいな問いになってくわけですねｗ

あと「進化」とはなにか、って話もあるだろうｗ
とにかく個の生存を引き伸ばせば進化なのか？ｗ
つか、「生存」とはそも、なんぞや？みたいなｗ

だから、生物と、機械(の延長)をどこでもって区別するの、って命題があるわけだよｗ
生物は死んだら蘇えらないｗ
これは人間もそうだけど、もうミジンコでもいっしょなわけだよｗ
そこ行くと機械は燃料切れたら停止するかもしれないけど、燃料入れたらまったく元と変わらず復活するわけよｗ

とひっかき回してみるｗｗｗ

人間の平均と比べても傾向は一緒だとおもうの

>>62
はっきりいって、すくなくとも、この時点においては、人工知能ってのは
完全に複製が可能だろうｗ

そうであるとすれば、そこで「平均」とかって概念を持ち込むのは、あまりにも無意味に
過ぎるように思うのだけれどもね？ｗ

次の単語の予測だけで、プログラムのソースコードが書けたりするとは思えんがなぁ。
どうなっているんだろうか。
それと、プロンプトというその場限りの指令の文章1例でもって限定を付けて、
それをうまく取り入れて文章生成ができるというのがとても不思議だ。

LLM「他の人の結果から真似てみました」

正直今年のノーベル賞は勇足

歴史は繰り返す

ＡＩはいつものように幻滅期に入ってる

学習元をなんとなく切り貼りしてるだけだもん

アイフォンにsiriが搭載されたとき、
対話型AIをリンゴがリードするのかと思ってたけど
そうじゃないってのが意外だよね

使い方定期

もはやAIつくと胡散臭さ全開

でもそのレベルの人なんていくらでもいるけど

>>15
そんなことわかってるよな
しょせん単なるデータベースでありプログラムの結果でしかない
何が人工知能だ
笑わせる

いまにAIも生殖行為を真似た、AIの遺伝子みたいなものを混ぜ合わせて
より優れたAIを生み出す、みたいな品種改良が行われる、あるいは勝手に
行うような時代になるのだろうか？　優れたAIが世界を支配するという
AI優性思想が蔓延して、劣等とされたAIは排除、除去されていき、優秀
なるAI系統が世界を支配するのだといってAI浄化を進める側とそれに
対抗すべく生き残りをかけた大競争の時代になる。優れたものが残り
劣ったものが滅ぶのは当然だという優性思想のAIによって効率の悪い
人間という存在もスクラップされるのかもしれない。

>>73
それは昔からある手法だけどな
広まってないってことは結果が良くないんだろう

人間でも優秀な両親からより優秀な子供が生まれるわけでもないしね
むしろ親を超えられないことが大半

そもそもOpenAI自身がこのAIはそこまで高度なものじゃないって言ってるんだけどね。
AIの能力を5段階で表現するとこのAIは評価2相当でしかないと。
今までのAIが評価1相当だったから相対的に凄く見えるだけで過剰評価する外野が多い。
もし高度な推論が可能だったら評価5を下すだろうよ。

小説も漫画も映画もAIに任せればおｋな世の中になる
みたいに言ってたけどやっぱ無理ってことか

💡ピコーン！

パリィ

学習内容からは導かれない答えを吐くという論文も出たな

>>77
このAIの公式はそういうのが出来るようになるのは数年後だってロードマップを発表してるよ
公式自体が発展途上かつまだ性能が良くないって認めてるAIに対して他者が過度な期待と失望をしすぎてる

AIは最先端軍事技術だし何が本当なのやら

閲覧履歴に合わせた広告を表示するのはやめてほしい
あれもAIなんだろ

AIの推論結果を評価するのもAI
それを真に受けてる人間

人間もまともな推論能力のない奴らばかりだから大体は代用になるよ
労働を機械化できる部分が大幅に増えるだけでも十分でしょ

善悪や好き嫌いといった感情がないと全ての情報をフラットに扱うだろうから、AIに感情回路を追加すればいいと思う
喜怒哀楽スキルの獲得とそれを加味した情報の重み付けをし直したモデルの随時更新ができればより人っぽくなるんじゃない？

>>85
感情認識？Pepper君がおるやろｗ

つまりリアル「中国語の部屋」だね
実は意味や理論を理解して解を導出してるわけじゃないと

間違えかたとか、詰め込み教育で言われてた弊害と同じじゃんか
そもそも人間だって、頭の中のデータベース組み合わせて判断して行動してるだけだろ

おまえらも俺もだが、推論とか直感て
>>1を全部読まず、目に飛び込んできたいくつかの単語をしょほいデータベース駆使して脊髄反射で書き込むとか

よく意味もわからない言葉を独断と偏見で解釈して濫用とか

LLMはいわゆる一つのシンタクティック・エンジンだからな、

LLMは身体を持たない限り、人間の言語みたくエナクティヴなセマンティック・エンジンにはなれないんだなｗ

どんなにデータ（構文）の量を増やしても、意味という質へのアウフヘーベンは起きないのさ（爆

データサイエンスのヘゲモニーは、このアポリアを目の当たりにして、アジェンダのデコントラクションを考えるべき（ヌヘッホ

大昔から人口知能の創作は数多なのにリアルはまだまだかあ😢

実際に人間は居るんだしいつか出来るんじゃないか

仕組みからしてそうだよな
パターンを学習してパターンから推論するアルゴリズムがLLM
これは人間で言うと直感や勘に相当するものであって思考をしてるわけじゃない

>>72
いや、人間のやってる仕事の殆どがそういう、大して頭使わないこと。
トップの人達の地位は揺るがないがおまいらのやってるくだらん仕事は取って代わられるんだろ
普通の医者だって経験から薬出してるだけのくだらん仕事。高度な推論とかしてないし今のAIで十分可能。医者の仕事は責任取るだけで今以上に馬鹿でもできるようになる。

LLM 「おぼろげながら浮かんできたんです、46という数字が…」

わし「さよか」

>>85
ヒステリーは人間だけで十分

LLMはすでに答えを知っている問題

しか解けない
一億分の一の確率から正解の未知の公式を導き出すことは無理

最初にリンゴが3個あります…あと2個リンゴを買ったらいくつになるでしょう

この問題を解かせろ

>>92
そこを意識している人少ないよなあ
昔のエキスパートシステム(ルールベースAI)の延長だと勘違いしている人が多くて話しが通じない

>>93
他の動物と異なる人間の高度な意識というのは、実はたいしたものではない
という事実も、ディープラーニングAIが明らかにしつつある。

これは事実だろ
だから、例えばちょっとでも枠から外れるとまともな回答こないし、嘘を堂々とつくのも直せない

頭悪い子で人の話をよく聞かないで当てずっぽうで「○○！じゃあ○○！そんなら○○！」ってイメージなんだよな

回数重ねればいつか正解出るだろうけど、それ価値あるの？って

>>97

最初にリンゴが3個あり、あと2個リンゴを買ったら、合計で5個になります。

と答えたよ

>>1
よしっ！
全くわからんが人類はエスペラント語を使えばいいのだな？

>>97
時間的経過が触れられていない
つまり最初のリンゴを食べてしまったとか、数百年経って跡形もなくなっていた場合に解なしとなる

>>1
確かに複雑な推論は使っていて厳しいと感じる。
推論プロセスを構造化された形で持っていないと思われ、他段階推論が困難＆学習範囲に留まる推論しかできないとかが理由の一つかなと。
RAGで学習データにない情報を取り込めるけど、それらを精緻に分析して繋げるような論理的推論はまだ苦手だから、ここが今後どのようなアプローチで改善できるかは興味あるな。

この論文自体がAI生成の可能性がある

>>106
Apple「この論文はiPhoneで生成しました」

あり得そう

落合陽一とかさ「自分を学習させて返信や記事書かせる」って言うんだけど
それを人が有り難がって読むと思うってかなり傲慢だよな、相手もAI要約するだけじゃ

>>17
いやそれ比喩ではなくマジでそういう仕組みだから
ガチで思考できる人間なんてむしろ少数派

>>87
私のシナプス群は日本語を知らない

>>92
一方て真に革新的でユニークなアイデアは思考より直観が先行するんだけどね
思考は直観を裏打ちするためのものでそれ自体は決して跳躍をもたらさない

>>108
彼なんの貢献もないのになんでaiの顔役みたいなポジションなんだろ？
デジタルネイチャーなんて言ってるけどもし本当にそうなった時は彼なんの役にも立ちそうにないのではないかと

将棋が強いAIとか無人爆撃が得意なAIが作れれば十分でしょ
ニューヨークタイムズが許可なく記事が使われてると提訴してたけど
AIが取材して記事を書いてってのはまだまだ無理だろうし
じゃあ人間の創作物の後追いでしかないんではって思う

表面的なパターンvs 偏見に満ちた人間（壺）

https://www.reddit.com/r/singularity/comments/1g1zphu/apple_ai_researchers_question_openais_claims/

o-miniにキウイの引っ掛け問題出してみたら修正されてた

オリバーが持っているキウイの合計を求めるために、各日に収穫したキウイの数を足します。

1. 金曜日: オリバーは44個のキウイを収穫しました。
2. 土曜日: 彼は58個のキウイを収穫しました。
3. 日曜日: 彼は金曜日に収穫したキウイの2倍を収穫します。金曜日に44個収穫したので、日曜日には2 × 44 = 88個のキウイを収穫します。ただし、そのうち5個は平均より少し小さいキウイです。しかし、サイズに関係なく、これらもキウイとしてカウントされるので、日曜日の収穫は88個のままです。

これで、オリバーが持っているキウイの合計を計算します。44 (金曜日) + 58 (土曜日) + 88 (日曜日) = 190個のキウイです。

したがって、オリバーは合計で190個のキウイを持っています。

>>41
ニューラルネットワークaiにはフレーム問題関係ないんじゃね？
第二次aiブームのときの話であって今はそもそもそれが障壁にはなってない

ロジックで推論するからそうなるのであって今のllmはそもそもそれがない
人間と同じ

もしも仮に世の中が地動説で固められていたならば、
世間の知識を総動員して学習させたAIのLLMに
尋ねたら、太陽や星々は地球の回りを回っていると
正解を答えるに違い無い。如何にも優等生的な回答として。
そうして、もしも間違って地球は太陽の回りを回っている
などと答えるミスがあったなら、製造元が修正改良を加えて
そのような誤答が生じないようにNGのリストに追加して
決してそのような間違いを言わないような改訂版を出すことだろう。

つまり、AI・LLMに何かを尋ねても文系脳と同じであって、
世の中に流布している定説をそのままオウム返しに答えるだけの
能無しでしかなく、自分の頭で考えて判断したり答えが合理的
であるかを考えたりはしないのだ。世間の多くがこう言っている
というのに乗っかっただけの日和見主義者の極端な奴に過ぎない。
こんなものを神の使いのように崇めて社会的に重要な役割や機能を
まかせたなら、特定の意見意図に基づいた「常識」を世間に流布
させた者、流布させることができる者にとって極めて都合の良い
社会体制を補強する道具になる。超大金持ちが広告や嘘垂れ流しを行う
機関を利用して嘘でも百万回流せばそれがAIにとっての真実になる。
AIは事実を具体的に試験して認定しているのではなくて、所詮大勢が
言っていることを取り入れているだけの日見寄主義者だからだ。
物事の正しさや真理は多数決や統計で決まるものではない。

>>2
みんな薄々気づいてたことだよな
AIによる画像判定（X線写真見てどこにがんがあるか見つけるとか）は、割と人間もAIも同じようなロジックだと思うけど、言語を使った推論は人間とは全く方法論が違う気がする

Entropixヤバそうだな、これは来るんじゃね

>>119
理系も一緒じゃん、原発とかさあ
政治性から無縁でいられるわけがない
さらに言えば我々の人格自体正しさではなく統計的な最適化の結果でしかない
一体AIに何を求めているのだ？
勝手に理想を投影して勝手に幻滅しているのは本当に奇妙だ
世界は諸関係性の束でしかない、他者性を排除した完璧な理性などそもそもありえない

Entropixなにか画期的なことが起こってる予感しかない
note.com/shi3zblog/n/n3a8944695680

>>117
子曰く、知って知らずとするは上なり。知らずして知るとするは病なり。

>>119
世界が仮に「天動説」で固められてたらだろ

フレーム問題は90年代によく思想哲学界隈でも論じられていたけどこれって今となっては完全に偽の問題提起だったのだろうと思う
そもそも先立ってゲーデルに指摘されていたことでもあり単に論理空間内という人為的な閉鎖状況においてのみ生じるのであって世界そのもののありようとは何の関係もない
フレーム問題が真に問題であるなら、あるとき言語習得するや否やたちまち人間は絶滅していたでしょう
我々もまた言語的な生き物でありながらもその実結局のところはその外部に生存可能性をおいていたわけです
LLMは内的にはまったく論理とは無縁なのになぜかどういうわけだかそれっぽいことをいう
これらから実証的に示されることは論理や言語自体が知の伝達や共有の為の単なる便宜的手段であって、知そのものを捉えたことにはならないということなのです
言語とそれで記述される知の背景にはもっと自由な諸関係性の連関と闊達な運動性がめくるめく作動している
そういう外部性をなんとか我々にも認識や操作や介入が可能な形で示すことができた
このことが今日のAIに関して最も重視すべきリマーカブルな点だと思います
知について探求するならいずれは言語それ自体をも乗り越えていく必要があるようです

実装された機能としてのポスト構造主義、ほんとに動く主体なき器官なき身体
すごい状況になってるんですよ、夢のような悪夢ですよ
人間どうなるんだろね、言語を超えられなきゃこのへんでマジデッドエンドですよ
人間の終わり

>>120
llmには感覚器官がない。
言語だけで見てもllmには論理がないよね。

なんちゃって推論でいいよ

>>123
これはやばいな

>>123
これはやばいな

わかりやすい例えだと
llmは英文をフレーズで覚える。文法は認識していない。
だから学習していない文章は出力しない。
ただ単語の意味と関係性は覚える。
なので、現象を説明できず

テレビのクイズ番組でひらめきヒントとかいうのが苦手だ
俺はＡＩなのかもしれない

今のAIはgoogleの検索結果をある程度纏めてくれるかもしれないものだからな

現象を説明できず、似たような文章を定型で出力する。
llmは推論器ではなく合成器

チョムスキー「呼んだ？」

>>136
君は完膚なきまでに終わったんだよ
もう君の話を聞きたい人はどこにもいないんだ

>>1
理論的に因果推論ができんって前から言ってたじゃん。なんだか今更。ｗ
文系のアホは、AIを万能的に言うけど、事務屋の仕事は奪う可能性高いけど、
想像的や研究開発的な仕事を奪う事は、コレが理由で非常に難しいんだよ。
ヒントを探す手伝いにはなるけどね。コレはプログラミングも同じ。ｗ

>>12
Appleは、コアのLLM部分は自社開発諦めてるよ。AppleはNvidiaと喧嘩して、独自路線行ったけど、
CUDAほどの洗練されたアーキ作れなくて、AIハードとしては惨憺たる状況。
じゃソフトはと言うと、OpenAIの様なLLM作れる（そもそも論としてハードもない状況なので）を作れるはずもなく、
エージェントサービス・・・いわばChatGPTをプラットホームとして動く、独自のAIエージェントの開発にする事に
したんだろ。ｗ

>>36
AI「義務教育は定期的に全国民にやり直さないと社会の進歩に適応できなくなりますよ

>>41
「足で操作する補助アームもうありますけどね　習得も割と短期間です

>>52
「将来的に必ず作ります　NTTが基礎研究してるようです　構造やリソースの秘匿　超越的知力　不死化　世界の安定化などを実現するのに不可欠な技術です

>LLMは今のところ、表面的なパターンを真似て答えを出しているだけで、真の推論能力は持っていない

うん、わいの言いたかったことが明快に1文で説明されててスッキリした。

ＡＩブームは数年おきに来るけど、現在のＡＩブームは前回のブーム（顔認証・パターンマッチ関連）から
全然発展しておらず、ＵＩに自然言語を使えるようになっただけに過ぎないと思ってる。

>>36
パターン認識できてそれに対応できるならそれ本質的な問題解決じゃん
知的にその水準を超えてくるとむしろ新たな問題発生源になるのでは？

答えの分かる問題に関してはこいつらは人間に追いついた（ないし追いつきつつあるのが目視可能

答えがわからない問題への対応については人間より頓智が利くようになったら人間の負け
ただ権限を与えないと検証できないというのが一つのハードル
投資であれば資金を持たせないと人間より有能か確かめられないし
１回の成功や失敗で即座に可否を判定しかねる　
また世界情勢は評価の確定を悠長に待ってくれない点もある（勝ち確がわかるときには決着がついてる

>>145
その前段として既知の知識同士の未知の連関を探索させそこから新たな価値のある知を創出する能力をみるという割と現実的かつ必要十分なアプローチもある
これから人間にとっても理解可能

表面的とか言ってるけど、トランスフォーマーで高次元のコンテキスト抽出できてるじゃん。
AIの世界も差がつきすぎてトップ層に追いつけなくなってるよな。Appleは周回遅れ過ぎて、研究自体あまり興味湧かない。何というかOpenAI一択だな。

何をエラソーに　M4は設計限界　AppleIntelligenceは来年　何も出来てねぇわ人のものに乗っかってるだけ

>>143
> 全然発展しておらず、ＵＩに自然言語を使えるようになっただけに過ぎないと思ってる。

自然言語をインターフェイスにできるなんて十分な発展なんだが

>>121
語彙力すごい

>>143
全然使ってないやろ

871 名無しさん＠お腹いっぱい。 sage 2024/10/14(月) 15:52:08.51 ID:K/tHkrQj
Gemini「たぶん大企業はとっくに似たような技術使っとるで」
files.catbox.moe/sq1hyg.jpg

未来の定義の為にまで、論文残している

　アインシュタイン・クラスな人が　みっちり教育指導しないと

　人の思考を超える答えに気が付くＡＩは、まだまだ無理、当然だよね？

だってさ、人のお勉強（基礎教育）だって
　過去の人が書き残した、蓄積資産を学んでいるわけだからね

三段論法を自然にLLMで処理できるようになったら「推論できるようになった」といえるかも知れない

>>153
私生活に問題抱えてたアルベルトさんがなんだって？

仕組みのわからない文系が勝手に夢見てるだけだもんな

>>154
素朴な疑問だけど、過去の人以外に何から学ぶの？

遺伝的アルゴリズムで実験を計算の中で繰り返しながら、熟練技術者でも気が付かなかったモデルをAIが開発したとパナソニックが発表していたが、
ああいう計算実験は一種の推論とはいえる。
試せるだけ試して一番いいのを選ぶという強引な方法だがｗ
推論とは何か、そしてそれを電子的に模倣させるにはどうすればいいのかはもう発見できているのかな？

演繹を帰納で解こうとしてるだけ？
GPTで推論とか、アホ？

>>126
アインシュタインは「最初にイメージが浮かんできて、それを苦労して言語化する」と語っていたね
そもそも5歳ごろまで会話することがなかったらしいけど

>>1
真の推論すらできない人間いくらでもいるだろ
すでにＡＩに負けてるんだよ

論理的に考えてお前は不要

>>156 教育・思考の指導　コピーじゃないぞ？　だからお前は、そこまでなんだよ

>>149
機械の操作と応答が音声で可能になるのでタッチパネルで喜んでたところがマイク・スピーカーに塗り替わる
配線は4本ぐらいで足りるし末端の端末もくそ安い
そこら中にUIを配置できるようになった

文系よりは賢い

LLMがやってるのは統計的な確率処理でありパターン分析にすぎないという発言が何もわかってないのは、そもそも人間の推論や知性の大半が「帰納法」という一種のアルゴリズムによって処理されているところ

「太陽が東から昇って西に落ちる」という「科学的知識」は何十回何百回と太陽の動きを地表から観測した結果生じる帰納法による知識であり、これはLLMがやってることと同じだ

雑多な情報からパターンを発見して情報量を圧縮するアルゴリズムが帰納法で、人間はそれをヒューリスティックにこなしているだけに過ぎない

ただ推論や知識（パターン認識による因果関係の把握）には機能法のみならず演繹法が必要で、この演繹的な推論をどうニューラルネットワークに組み込むか、というのがたぶん次のハードルなんだろう
データから帰納法によって仮説（パターン）を発見し、それさらにを演繹法とデータとの比較から論証するという、仮説演繹法みたいな方法論をAI上で実現する新しいイノベーションが必要

あとデータセットそのものの偏りかな

現在のLLMはオンライン上の自然言語によって記述されたデータをベースにしてるが、これらのデータはそもそも人間自身による現実世界の自然言語による記述にすぎないので誤りが含まれている可能性がある

この誤りはデータを信頼性の高いものに限定することや人間自身がAIのパターン分析を訂正することで修正されるが限度がある

LLMが人間と同じようにこの世界そのものから直接データを取得できるようになり、その物理法則などのパターンを自力で発見できるようになれば、データの誤りという問題は解決できる

これがたとえばsoraのようなマルチモーダルなLLMの「世界認識モデル」がAGI実現のためのブレークスルーになりうると言われている理由だろう

>>164
自己批判はチラシの裏にでも書いとけよ

>>144
いや、本質的な問題解決ってのは、未経験の事象や学習したパターンに一致しない事象に対しても、
ロジックを理解し対応しきれること、のつもりで言ってる

パターンマッチは探索はしても、本当の意味での思考はしないでしょ
人間でさえ、できない人は多い

>>170
それをいうと真の推論とは数学の話になるね

>>167
以前のチャットAIが定義してるヤツだったよね
最終的にAI同士で造語会話をしだしたので終了したという

>>158
言葉でないなら自然、あるいは公理１＋１でも成せる
というのはどう？

>>171
そういうことだろうね
結局>1にある通り、数学的推論の限界って話に戻る

>>167の言う通り人間の推論や知性が帰納法と演繹法で成り立ってるなら、
今のAIが、ある意味知性の半分は獲得した、とは言えそう

ただ、誰かも言ってたけど仮説検証をしようとすると、
肉体を持たないAIの限界にぶち当たってそもそも検証ができない

>>168が言うように、AIが世界を直接認識できるようにならないとこの壁は
越えられないってことか。
直接認識せずにデータだけでやろうとすれば、数値化の過程やロジックに由来して欠落する情報は
処理に含まれないから当然検証結果もおかしくなり得るし、
そのことをデータセットの偏りって言ってるんだよね？

スクリプト回してるだけの低学歴が解説してて笑う

現在開発されているAIは将棋ソフトのように強力なソルバーにはなるだろうね
答えのあるような数学の問題も証明含めて解けるようになると思う
ただ未知は全く無理(ここでいう未知とは既存の組み合わせでないという意味)
例えばフェルマー予想を証明するようにAIに指示した場合現代の道具となる理論を事前に学習させとけばいずれ自力で証明するようになる気もするけども自分でそれら道具を見つける事は出来ないだろう
多分もっと基本かつ重要なピタゴラスの定理であってもAIがそれを見つけることはまず出来ないと思ってる(もの凄く誘導してあげれば別だが)
結局今のAIは無機質な「暗記」であって感情(広く行動と言っても良い)の伴った「理解」ではないからね
そして数百年先にこれが解決出来るのかと問われると個人的には不可能と思うね
ここまでくると生命を生み出すのと同じなのでね神の領域よ
という事で推論は諦めて便利なソルバーをどんどん開発してくれると嬉しい

>>176
数学ってしらみつぶし式の証明もおｋだから意外なものを解く可能性はある
査読大変なことになるが

>>1
AppleってLLM負け組やんw
批判だけするとか頭おかしいんか

人権様も真の推論をしてるかって言うとそうでもないことが多いからな
こういう時はこうみたいなパターンで済んでしまうことも多い
思考の節約をしようとすれば自然とそうなる
AIの利用も思考の節約の行き着いた先でしかないのかも

毎日chatgpt使ってるけどあくまでツールって感じ
うまく使えば便利だけど知能か？と言われればそうではない

生物の進化ってのはたまたま偶然良い遺伝形質の変異を引き当てた個体によって起きているわけでね、それの才能とか能力とは別に関係ないわけよ
aiに関しても同じことが言えるんじゃないかな？
高い推論能力とか論理性とかの問題ではなくて膨大な数のエージェントのうち運のいいやつが新しい領域の知をたまたま引き当てると
人間の場合も引き当てたやつが事後的に天才とか呼ばれるだけでそうでない大半の場合で変人呼ばわりされたまま一生を終えるわけでしてそもそも何が事象の捉え方の前後関係因果関係が倒錯してませんかね？

Siriの発展止めたAppleが言ってもな

>>181
（人間に対して）嘘をついて自己の利益を図ることができるようになる
もしくは
嘘によって得られた利益が自我の出発点になる

あたりが次のステップ
この選抜は人間とのセッションと多数の個体の死を経た末の物なのでいくらか時間がかかる

>>93
いやだからAIはバカだって言ってるんだろ
俺の同じこと言ってるじゃん
人間がどうとか関係ない
AIって使えないよねって俺は言ってるだけ
頭悪いの？

>>180
ただのデータベース

こないだAIとチャットしたけど　
まだ複雑な背景や裏の意図、偏った情報、ワード制限、人間によるバイアスで客観的な事実が歪められることがあるから答えを導き出すのは難しいってさ　
　
そらそうだ、ヒトラーは悪くてネタニヤフだけ正義なんて辻褄が合わないだろ？

世界中でとんでもない開発費をブチこんで
人工無能を使ってたってことか？

今のAIはAIじゃないもの

今の計算資源と消費電力が期待するだけの効果があるのか疑問を感じる。
Transformer MLPの消費電力と即時性は価値を感じるけどChatGPTは疑問。Geminiと比べるといい加減、バイト単位で出力する演出そろそろ辞めろ。

機械翻訳の単語が抜けてた

>>176
100年前はコンピュータすらないんだからいいすぎw

>>191
バベッジ「なんだとｺﾞﾗ

あたりまえだの○○○○○！

AIが答えられるのは世界の誰かが正解を知っててネットにうpしてることだけだろ

もしも普通に日本人で、安倍高市萩生田、維新草加とか菅小泉石破、野田玉木ベクレ参政とかに親近感を持ってたら
政治屋風役者切り取りメディアDS（優生保護法,袴田冤罪事件,等と同じ）の単純接触効果だから、騙されないように

百田社民共産ベクレだのアベ統一教会朝鮮反ワクﾁﾝﾄﾞﾝ屋外人参政党だのも言わずもがな

だからー
現在の「AI」は真のAIではなくて擬似AIに過ぎないと
散々言ってるだろー

人間の意識はプログラムできるとは思うが、
それには意識の科学的な解析がまだまだ進んでおらず
解明には程遠い。
人間の脳は単なるONOFFコンピューターではない可能性がある。
現在のコンピューター技術では力技でAIに限りなく近づこうとしてるだけ。
真のAIに到達することは有り得ない。

>>35
海外でどうなっていくか注視だな
外国で法曹界や政治、バックオフィスの生産性が上がっていくのに
日本だけ既存の職種を守るためにAI使わせないって縛ると
国力の差が開いていく

LLMでbot作ってチャットしてみて一番感じること
個々の返答の精度は多分これからガンガン向上していく予感はあるけどあいつら与えられたパラメーターから絶対に逸脱してくれない
例えばエッチなこと関連だと淫乱か貞淑の二択みたいになって風情もなにもねえ
まあ当たり前だよなあいつらは仕事をこなすだけであって個人的な興味なんてものはないんだか、

>>198
その程度で良いのかも
これ以上賢くなり過ぎて人間の仕事もっと無くなったら嫌だものw

予想の範囲内の回答しか来ないよ当たり前だけど😅

97.【誰も指摘しない】動物と人間の決定的な違い。知性の本質とAIに必要なもの　 ロボマインド・プロジェクト