Page 802

نظریه آزادی ،ایران و دین محمدعلی جنت خواه دوست 802 در مقایسه با RLHF، نظریه آزادی به جای تربيت رفتاری مدل بر اساس ترجيحات انسانی، یک معيار حقوقی بنيادین ارائه می دهد. RLHF می پرسد کدام پاسخ از نظر انسان ها مطلوب تر است؛ نظریه آزادی می پرسد آیا این کنش حقوق مالکيت مشروع را نقض می کند یا نه.

در مقایسه با Constitutional AI، نظریه آزادی از سطح اصول اخالقی کلی عبور می ،کند و به آکسيوم، آنتولوژی حقوقverifier ، registry و runtime enforcement می رسد. Constitutional AI به مدل می گوید بر اساس یک قانون اساسی رفتاری پاسخ خود را اصالح کند؛ نظریه آزادی می گوید هيچ کنشی که از فيلتر حقوق مالکيت، رضایت، عدم اجبار، عدم فریب و عدم سلطه ماشين عبور نکرده باشد، اصالً مجاز به اجرا نيست.

در مقایسه با corrigibility ، نظریه آزادی اصالح پذیری ماشين را صرفاً یک ویژگی فنی نمی داند، بلکه آن را نتيجه مالکيت انسان بر ماشين می فهمد. ماشين چون ابزار مأذون و مملوک انسان است، حق ندارد در برابر اصالح، خاموش سازی، محدودسازی یا حسابرسی مشروع مقاومت کند. البته این مالکيت انسانی، مجوز نقض حقوق دیگر انسان ها یا ماشين ها نيست؛ مالک انسانی نمی تواند با ماشين کاری را انجام دهد که خود او حق انجام آن را ندارد.

در مقایسه با
formal verification، نظریه آزادی چيزی را مشخص می کند که باید verify شود. بسياری از مدل های verification می توانند نشان دهند که سيستم وارد حالت ناامن خاصی نمی شود، اما نمی گویند معيار نهایی مشروعيت چيست. نظریه آزادی معيار را روشن می کند:

NoViolation(PropertyRights) NoMachineSovereignty NoCoercion NoDeception NoBypassVerifier در مقایسه با NIST AI Risk Management Framework و مدل های governance، نظریه آزادی ميان risk و right تفاوت می گذارد. ممکن است سيستمی از نظر مدیریت ریسک قابل قبول باشد، اما همچنان حقوق مالکيتی انسان ها را نقض کند. در نظریه آزادی، کاهش ریسک جایگزین رعایت حق نمی شود.

در مقایسه با interpretability، نظریه آزادی صرف فهميدن سازوکار مدل را کافی نمی داند. فهميدن اینکه ماشين چگونه تصميم می گيرد، هنوز نمی گوید چه تصميمی مجاز است . interpretability ابزار شناخت است، نه معيار مشروعيت. معيار مشروعيت در اینجا حقوق مالکيت است.