標籤: 消費者信任

  • AI代理人風險升溫 Sumsub推驗證方案連結人類責任

    隨著人工智慧代理人技術快速普及,其自主執行交易與行政作業的風險也日益受到關注。為此,身份驗證服務商Sumsub推出全新的AI代理人驗證解決方案,透過「了解你的代理人」(Know Your Agent)框架,將代理人的行動連結至經確認的人類身份,確保所有自動化操作皆由授權用戶執行,避免未經監管的數位交易釀成損失。

    Sumsub亞太區副總裁Penny Chai強調:「AI代理人能大幅提升效率,但絕不能取代人類的問責機制。」她指出,科技越發達,消費者與企業越需要清楚決策過程與系統失靈時的責任歸屬。

    Sumsub同步發布的大中華區AI代理人消費者信任調查顯示,44%受訪者曾因使用AI代理人遭遇負面事件,包括未經授權購物、個人資料外洩及帳戶遭盜用。儘管香港個人資料私隱專員公署已於2026年3月發出警告,提醒社會注意委託代理人時的隱私風險,仍有15%的香港消費者在2026年第一季曾授權AI代理人代為處理事務。

    調查也揭露認知鴻溝:僅45%香港受訪者能正確區分AI代理人與其他形式的AI;近八成受訪者不清楚或不知道平台是否有規範AI代理人使用的規則。當代理人出錯時,40%香港消費者認為開發者、平台與用戶應共同承擔責任。

    在涉及金融決策時,消費者信心明顯降低。大中華區有77%受訪者表示,若平台要求AI代理人在處理支付或敏感數據前須經人類批准,他們會感到更安心。

    Sumsub亞太區政府關係主管Jason Chan表示:「有效的AI代理人治理需要公私部門密切合作。」他預告,Sumsub將與監管機構及業界夥伴協商,建立清晰標準,在保障消費者的同時,讓AI代理人在透明安全框架下運作。