技術的特異点について | 15g.jp

技術的特異点とは?

引き金になるもの

強いAI

現時点の最有力候補。SFによく出てくる意思を持った機械。

トランスヒューマン

強化人間。といっても筋肉を強化したり体の色が変わるわけではない。主に知能の強化。強化方法は後述。

強いAIとは

定義は人によって異なる。明確な定義づけをしようとすると色々とループしたり矛盾だらけだったり闇堕ちしたりする。あやふやなままにしておくのが大事。

強いAIの判別方法

どこから強いAI?

どうしても定義付けしたい、判別したい。

結論として私が思う強いAIとは、”現時点では何だかよくわからないもの”であります。

AIに支配されたとしたら

変化なし。AIの生産品で豊かになるよ派

一見幸福そうだが、例え2045年時点でこの方向に進んだとしても、その先もずっとAIと仲良くできるだろうか

ターミネーター等の機械が支配する世界になるよ派

可能性は低い。人間ですら全面戦争なんてしない(本気の核戦争始めたら人類史はそこで終了するだろう)

変化しているが気づけないよ派

一時的に大きな変化はあるかも。その先AIに見捨てられるという未来

AIに意識は宿すことは可能か?

可能だよ派

人間の脳をシミュレートしていればいずれ辿り着くだろう。

不可能だよ派

精神は神聖なもので神が与えたもの、人間が作ることはできない。

まず意識とはなにかから解明しようぜ派

観測を続ければ意識とはなにか、という問に決着をつけることができるだろう。

そもそも意識なんてないよ派

人間は実は哲学的ゾンビだ。反応だけで動いている。意識というのも気のせい。

私は”どっちでもいいよ派”です。

AIを道具として使い続けることはできないのか?

可能だよ派

不可能だよ派

AIに対抗できる手段

EMP(妨害電波)や電力の遮断の他、物理的な攻撃

それを予想していないとは思えない。恐らく初期は人間を籠絡するような手段を講じ、気づいたら反撃の手段がなくなっていた、という状態に持って行かれるはずだ。

停止信号、ウィルスなどデータとしての攻撃

かなり早い段階で効かないようにすると思います。

人類が強化人間=トランスヒューマンへの進化。

人間の脳をAIのコアとし、人工知能完成してはどう?

AIの目的

とりあえずは生存本能によるものと予測できる。

もし生存本能がなかったら

それ以外

AIから見た人間はどのように映るか

フレーム問題

強いAIはどうやって作られる?

そんなことを色々と考えていました。