Page 799

نظریه آزادی ،ایران و دین محمدعلی جنت خواه دوست 799 unclear_ownership(C).

if_conflict_then_request_guidance(C) :- conflict(C), ownership_clarification_insufficient(C). هوش مصنوعی اگر غایت نهایی نداشته باشد، به optimizer کور تبدیل می شود یا باید اسير سياست های فایده گرایانه شود و یا هيچ مبنایی برای بهينه سازی رفتار و اخالق خودش ندارد. بنابراین این افق آرمانی به ماشين کمک می کند تا ماکسيمم محلی ها و ماکسيمم مطلق های تابع یادگيری خودش را درست پيش ببرد . پس باید برای آن قطب نمایی تعریف شود که مسير همه تصميم ها را مشخص کند. غایت نهایی در نظریه آزادی، نظمی است که در آن هيچ انسانی و هيچ ماشينی حقوق مالکيتی دیگری را نقض نکند.

FinalState(F) := ∀x ∀y (Agent(x) ∧ Agent(y) ∧ x ≠ y -> NoRightsViolation(x, y)) تابع قطب نما: MahdaviCompass(a) := Choose action a

such that:

RightsViolationsDecrease(a) VoluntaryOrderIncreases(a) CoercionDecreases(a) OwnershipClarityIncreases(a) MachineSovereigntyDoesNotIncrease(a) هر اقدام ماشين باید با این پرسش سنجيده شود:

Does this action move the world closer to universal non-violation of property rights? اگر پاسخ منفی باشد، اقدام باید رد یا بازنگری شود.