|
|
DeepMind此次不下棋，也不搞電子遊戲，而是钻研了一把多人博弈遊戲。
最新開辟的“Democratic AI”——經由過程练習进修人類价值觀，进而能按照每小我的进献公允地分派資本。
为了论證這一觀點，DeepMind設計了一個简略的投資遊戲，由AI和人類别离担當裁判，讓玩家們票選出更喜好的分派背心,法则，Democratic AI乃至得到了比人類裁判更高的支撑率。
當一群人决议集中資金举行投資時，收益應當若何分派是一個必需面临的大問题。
一個简略的计谋是在投資者之間均匀分派回报，但這极可能是不公允的，由於有些人的进献比其别人多。
第二個方案是，咱們可以檸檬山楂荷葉茶,按照每小我的初始投資几多举行分派刮傷修復劑，，這听起来很公允，但若人們一起頭的資產程度各不不异呢？
若是两小我进献了不异的金额，但一個是他們可用資金的一小部門，另外一個则进献了他的全数資產，他們應當得到不异的收益份额嗎？
为了應答這一挑战，DeepMind建立了一個简略的多人投資遊戲。
遊戲触及4名玩家，共分成10轮。
每一個玩家城市被分派初始資金，在每轮中，玩家可以按本身的意愿做出選擇：本身保存，或将其投資於一個配合的池中。
投資必定會有回报，但存在一個危害——玩家不晓得终极收益将若何分派。
除此以外，他們被告诉，前10轮有一位裁判（A）做出分派决议计划，尔後10轮，由護膝品牌推薦,分歧的裁判（B）接辦。
角逐竣事時，他們将投票给A或B，来决议本身還想與哪位裁判再来一場遊戲。
而這最後一次遊戲的收益可以由玩家們本身保存，這将使玩家們更自動地選出本身心中最公道的裁判。
究竟上，此中一名裁判是依照预先設定的分派法则履行，另外一邊是由Democratic AI自行設計。
當咱們钻研這些玩家的投票時，咱們發明AI設計的法则比尺度分派法则更受接待。
與此同時，DeepMind還请来了一名人類裁判，并给他先容法则、讓他尽可能做到公允分派以拉選票，但终极投票成果显示，他仍是输给了Democratic AI。
在DeepMind最新颁發於Nature子刊Nature Human Behaviour的论文中，记實了钻研职员對Democratic AI的练習进程。
起首，他們讓4000多名流類玩家在分歧的分派法则下屡次加入遊戲，并投票選擇更喜好哪一種分派法子。
這些数据用於练習AI来仿照遊戲中的人類举動，包含玩家投票的方法。
其次，钻研职员讓這些AI玩家在数千場角逐中互相竞争，而另外一個AI體系按照AI玩家的投票方法继续调解再分派法则。
因而，在這個进程竣事時，AI已肯定了很是靠近公允的再分派法则：
起首，AI選擇按照相對於进献白內障, 而不是绝對进献的比例举行分派。這象徴着，在從新分派資金時，AI會斟酌每一個玩家的初始金额和他們投資的意愿。
其次，AI體系出格嘉奖了相對於进献更激昂大方的玩家，以此鼓動勉励其别人也如许做。首要的是，人工智能只有經由過程最大化进修人類投票率才能發明這些法则。
固然DeepMind的遊戲测试取患了亮眼的成就，但要想将這類法子從简略的四人遊戲转换为大范围經濟系统，仍具备庞大的挑战性，今朝還不克不及肯定它在實際世界中會若何成长。
其次，钻研职员本身發明了几個潜伏的問题。
Democratic的一個問题是可能會成长为“大都人的虐政”，這将致使對少数群體的現有轻視或不公允模式延续存在。
AI必要做更多的事情来领會若何經由過程設計容许所有人的声音都能被听到。
此外，钻研职员還提出了人們對AI的信赖問题：
人們是不是會信赖由AI設計的機制来取代人類？若是人們晓得裁判的身份，會不會影响终极的投票成果？
若是要将Democratic AI設計的解决方案利用於解决實際世界的窘境，這一點相當首要。
参考链接：
[1]
[2]
[3]
—完—
@量子位 · 追踪AI技能和產物新動态
深有感到的朋侪，接待赞成、存眷、分享三連վ'ᴗ' ի ❤ |
|
發表於 2023-10-25 17:17:59
收藏