iki-iki log by tkskkd

人が理解するために、AIがどんどん増やしていくエントロピーを意図的に下げ続けなくてはいけないのか。人の理解がボトルネックになるが、これを諦めてしまうと完全にアンコントーラブルになるのだろうな。ある程度まではAIで対応できるが、閾値超えると複雑性が爆発して破綻するのだろう。人間ポンコツだとそこが上限になるけど、人が責任を引き受けるには、その上限を受け入れないといけないと思う。