Annotary
Sort

AI - その革命はまだ起きていない、そして起きそうもない - Qiita

qiita.com
Yasufumi Matsui Yasufumi Matsui
3 months ago
AIという言葉に対する一般の誤解と誇大宣伝が、現実に起きているデータサイエンスに関連するトレンドと問題を把握するのに、なぜ邪魔になっているのかを解説し、これからは、AIではなく、IA(Intelligence Augmentation)、II(Intelligent Infrastructure)こそが、ビジネスと学問の両方にとっての現実的で急を要する大きな機会であると提唱
Cancel
人間という要素を考慮した上で、コンピューターサイエンスと統計の力を使い、地球規模でこの手の推論と意志決定を行えるためのシステムを構築するために必要な学問の分野というのは私の知っている教育の世界では、どこにも見当たらない
Cancel
私達が近い将来に知能を理解できるかどうかに関わらず、人間の生活を向上させるという意味で私達はコンピューターと人間を結びつける必要がある
Cancel
こうした努力は人工知能の誕生の一部であると思われがちですが、むしろ新しいエンジニアリングの学問の分野の誕生と考えられるべき
Cancel
この新しいエンジニアリングの学問の分野は、それ以前に生まれた、情報、アルゴリズム、データ、不確定要素、コンピューター処理、推論、最適化などのアイデアを土台に構築される
Cancel
私達が現在構築している社会的規模での推測と意志決定のシステムには、すでに深刻な概念上の欠陥があるというのがわかり始めてきました。
Cancel
現在AIとよばれるものは、工学関連の分野での低レベルのパターン認識やモーション・コントロールに関するものか、統計学の分野でのデータの中からパターンを検出し、根拠のある予測をし、仮説の検証をし、意志決定に役立てることにフォーカスしたものというのが現実
Cancel
多くの場合、様々なタイプのテキストの組み合わせや数字の計算を行うことで人間にとって役に立つパターンを発見するということにとどまっている
Cancel
コンピュータ処理とデータと物理的なものが絡み合ったもので、人間の世界をサポートし、おもしろいものとし、さらに安全なものとするためのもの
Cancel
IoTに関する話しの多くは「もの」をインターネットに持っていくときの課題に関するものがほとんどで、これによって集められることになるデータを分析することで世界の事実を発見することができる「もの」に関する課題や、そして人間と他の「もの」が双方向に対話することによって起きうる、もっと抽象的で高いレベルの課題に関してのものではありません。
Cancel
意味づけと理論づけができ、自然言語を操ることができ、因果関係を推測し表現することができ、不確定要素をコンピュータで扱うことの出来るかたちに表現することができ、そして長期的なゴールを定義し追求することができるシステムの開発を必要とします。これらは「人間の
Cancel
近い将来、コンピューターが現実の世界の出来事を抽象的に理論付けすることが出来ることはない
Cancel
つまるところ、今まで見たこともないような規模と範囲のエンジニアリング(工学)の話し
Cancel
私達の社会は新しいタイプのシステムを作ることを目指している
Cancel
データにフォーカスした分野、学習にフォーカスした分野のための新たなエンジニアリング(工学)の学問の分野が生まれることになる
Cancel
データ、AIに関するリテラシーの向上とともに、それらを使って、質問を構築し、仮説を構築、検証し、因果関係と影響の範囲を理解していくといった、アナリティカル・シンキングを身につけることが重要となってくる
Cancel
Show all 16 highlights
Sort

ディープラーニングの限界 | POSTD

postd.cc
Yasufumi Matsui Yasufumi Matsui
4 months ago
ディープラーニングモデルは高次元データの複雑な多様体をほどくための数学的機械
Cancel
一般に、理論的思考(プログラミング、科学的方法の適用など)、長期計画、アルゴリズム的なデータ操作を必要とする事案には、どれだけデータを投げてもディープラーニングモデルの力は及びません。
Cancel
対応する幾何学的変換があまりに複雑過ぎるか、それを学習するための適切なデータがない
Cancel
ディープラーニングモデルを一種のプログラムとして解釈することはできても、逆にほとんどのプログラムはディープラーニングモデルとして表現できません。
Cancel
理由は、ディープラーニングモデルは、「単に」あるベクトル空間を別のベクトル空間にマッピングするシンプルで連続的な幾何学的変換の連鎖でしかないから
Cancel
データを増加させたとしても、ディープラーニングのモデルが表現できることは非常に限られているという根本的な問題を解決できません。
Cancel
学習させたいと思うプログラムの大半は、データ多様体の連続的な幾何学的変形として表せないという問題も解決できません。
Cancel
現代のAIに関する非常に現実的なリスクの1つとして、ディープラーニングモデルの機能を誤って解釈し、その能力を過大評価することが挙げられます。
Cancel
ディープラーニングモデルは入力に対して、少なくとも人間的な意味での理解は一切していない
Cancel
仮説を扱う能力、精神モデル空間を直接経験できることをはるかに超えて拡張する能力、つまり、抽象化推論を実行する能力こそ、間違いなく人間の認知の特徴を定義するもの
Cancel
間違っても「ニューラルネットワークは実行したタスクを理解している」と信じ込まされないようにしましょう。
Cancel
単に訓練の入力を訓練の目標に1点ずつマッピングしてきただけ
Cancel
非常に少ないデータを使用して、または新しいデータを全く使用せず、経験のない斬新な状況に適応する能力
Cancel
仮説を扱う能力、直接的に経験できることをはるかに超えてメンタルモデルの空間を拡張する能力、
Cancel
抽象化推論を実行する能力こそ、人間の認知の特徴を定義するもの
Cancel
Show all 15 highlights
Loading...