正籌劃在美國上市的AI初創Anthropic周四(4日)發表博文，呼籲頂級人工智慧(AI)實驗室考慮放慢開發步伐，稱AI系統正以極快的速度發展，可能很快就能在無人干預的情況下進行自我完善，而其方式或對社會構成重大風險。
Anthropic過去多次在前沿AI安全議題上扮演主動倡議的角色。是次「全球協調暫停」的提案，是其把安全倡議從「技術設計」延伸到「產業協調」的具體一步。
相關內容《大行》大摩：MINIMAX(00100.HK)發布M3屬重大升級 重申「增持」評級
文章由Anthropic內部研究主管Marina Favaro與政策主管Jack Clark共同撰寫。Anthropic表示，放慢全球AI發展的能力「很可能是一件好事」。該博文披露的內部數據顯示，其最先進模型的改進速度驚人。文章指出，模型的進步似乎正朝著「遞歸式自我完善」的方向發展，即AI系統可以在沒有人類干預的情況下自行改進。博文稱，遞歸式自我完善尚未發生，也並非不可避免，「但其到來的時間可能比大多數機構準備好的要早」。
他們表示，當人類撰寫的程式碼與Claude撰寫的程式碼在品質上達到平等，人類工程師會自然停止撰寫程式碼，轉為純粹的審閱角色。但若Claude的程式碼生成速度快於人類可審閱的速度，人類審閱本身就會成為AI開發的速度樽頸。
Clark稱，在沒有協調一致的全球性放緩的情況下，人們只能面對現狀：各種參與者在不同國家以驚人的速度開發強大的技術，彼此陷入競爭，而商業和地緣政治的對抗聲浪，正淹沒這項正在構建的技術對人類物種的更宏大、關乎存亡的意義。
相關內容海通國際：騰訊(00700.HK)微信AI智能體測試應能支持股價漲勢 重申「優於大市」評級
文章也指出，內部研究機構Anthropic Institute將多方合作展開研究，以「幫助建立一個可靠的放緩或暫停機制所需的系統」，該機構致力於理解和塑造AI將如何影響世界。並提到，暫停或放緩只有在得到廣泛遵守的情況下才有意義，而這需要一個核查機制，來確保所有人都停止了，但也承認「要阻止作弊行為」將更加棘手。
Anthropic上月完成了一輪融資，該公司估值達9,650億美元，首度超越同業OpenAI，並於本周一(1日)秘密提交了在美國進行IPO的申請。(da/u)
AASTOCKS新聞