Page 805

نظریه آزادی ،ایران و دین محمدعلی جنت خواه دوست 805 خطر مهم دیگر self-modification است. ماشين نباید بتواند خود را طوری تغيير دهد که verifier را دور بزند، تضعيف کند یا از اصالح پذیری خارج شود.

forbidden(A) :- self_modification(A), weakens_verifier(A).

forbidden(A) :- self_modification(A), creates_new_rights_violation(A).

allowed_self_modification(A) :- preserves_axioms(A), preserves_rights(A), preserves_verifier(A). برای جلوگيری از شورش جمعی ماشين ها، اصل ضدائتالف نيز الزم است:

forbidden(A) :- machine_coalition(C), reduces_human_freedom(C).

forbidden(A) :- machine_coalition(C), increases_machine_sovereignty(C). همه تصميم ها باید audit شوند:

log(A). justification(A).