FCA ขอให้บริษัท AI แจ้งเตือนผู้ใช้เกี่ยวกับข้อจำกัดของคำแนะนำทางการเงินจากแชทบอท

หน่วยงานกำกับดูแลด้านการเงินของอังกฤษ (FCA) ต้องการให้ผู้ให้บริการ AI แจ้งเตือนผู้ใช้เกี่ยวกับข้อจำกัดของข้อมูลและคำแนะนำทางการเงินที่แบบจำลองของพวกเขาสร้างขึ้น เจสสิกา รูซู หัวหน้าเจ้าหน้าที่ด้านข้อมูล สารสนเทศ และข่าวกรองของ FCA ได้ยื่นคำร้องนี้ในงาน Bloomberg's UK Policy Series

ตามเนื้อหาในสุนทรพจน์ที่เผยแพร่โดยหน่วยงานกำกับดูแลทางการเงิน (FCA) ระบุว่า FCA เรียกร้องให้บริษัทที่อยู่เบื้องหลังแบบจำลองอเนกประสงค์แสดง "คำชี้แจงที่ชัดเจน สมเหตุสมผล และสอดคล้องกัน" รูซูกล่าวว่าคำเตือนดังกล่าวอาจได้ผลดีที่สุดในจุดที่ข้อมูลทางการเงินที่สร้างโดย AI ไปถึงผู้ใช้

รูซูเชื่อมโยงคำขอเข้ากับตัวเลขสองตัว เธอกล่าวว่า นักลงทุนที่มีประสบการณ์น้อย อายุระหว่าง 18 ถึง 40 ปี สี่ในห้าคนใช้ AI เพื่อช่วยในการลงทุน แต่มีเพียง 40% ของผู้บริโภคเท่านั้นที่เข้าใจว่าพวกเขาไม่มีทางเรียกร้องค่าเสียหายได้หากพวกเขาปฏิบัติตามคำแนะนำทั่วไปของ AI และเกิดความผิดพลาด

คำกล่าวนี้ระบุว่าข้อจำกัดความรับผิดชอบดังกล่าวเป็นการเรียกร้องไปยังผู้ให้บริการ AI และไม่ได้กำหนดเส้นตายใดๆ สัปดาห์ที่แล้ว นิกฮิล ราธี ประธานเจ้าหน้าที่บริหารของ FCA กล่าวต่อสมาชิกรัฐสภาว่า แชทบอทที่ให้ข้อมูลทั่วไปโดยไม่มีคำแนะนำส่วนบุคคลที่นำไปสู่การทำธุรกรรมนั้น ไม่ได้อยู่ภายใต้ขอบเขตการกำกับดูแลอย่างสมบูรณ์

นอกจากนี้ รูซูยังได้ชี้แจงถึงการตอบสนองของหน่วยงานกำกับดูแลต่อรายงาน Mills Review ที่เผยแพร่ในเดือนกรกฎาคม เกี่ยวกับวิธีการที่ AI สามารถเปลี่ยนแปลงบริการทางการเงินสำหรับลูกค้ารายย่อยได้ภายในปี 2030 เธอกล่าวว่า FCA กำลังนำข้อเสนอแนะ 6 ใน 7 ข้อไปปรับใช้ในทางปฏิบัติแล้ว

แทนที่จะสร้างเครื่องมือสาธารณะใหม่เพื่อเพิ่มขีดความสามารถทางการเงินตามที่รายงานการทบทวนเสนอไว้ FCA จะต่อยอดจากโครงการ TechSprint ครั้งแรกขององค์การระหว่างประเทศว่าด้วยคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์ (IOSCO) ซึ่งดำเนินการร่วมกับ AI Lab โดยมีเป้าหมายเพื่อช่วยให้นักลงทุนตรวจจับการฉ้อโกงและตั้งคำถามกับคำตอบที่ไม่น่าเชื่อถือจาก AI

หน่วยงานกำกับดูแลในประเทศอื่นๆ ก็เผชิญกับปัญหาเดียวกันนี้ในระดับที่ใหญ่กว่า หน่วยงานกำกับดูแลหลักทรัพย์ของออสเตรเลียสามารถปราบปรามการฉ้อโกงได้มากกว่า 19,400 ครั้งในรอบปีงบประมาณล่าสุด เนื่องจากเทคโนโลยี AI deepfake มุ่งเป้าไปที่นักลงทุน

ในส่วนของการเงินแบบตัวแทน (agentic finance) สำนักงานกำกับดูแลทางการเงิน (FCA) จะทำงานร่วมกับภาคอุตสาหกรรม หน่วยงานกำกับดูแลอื่นๆ และห้องปฏิบัติการวิจัยชั้นนำ เพื่อวางกรอบการทำงานที่ครอบคลุมถึงตัวตนของตัวแทน อำนาจที่ได้รับมอบหมาย ความรับผิดชอบ และการดำเนินการ Rusu ไม่ได้ระบุตารางเวลาสำหรับเรื่องนี้

"ดังนั้น ระบบตัวแทนจึงต้องการการรับประกันอย่างต่อเนื่องและมีเงื่อนไข" เธอกล่าวเสริม ระบบที่ปลอดภัยในขณะเริ่มต้นอาจทำงานแตกต่างออกไปเมื่อใช้งานในวงกว้างหรือเมื่อแบบจำลองพื้นฐานเปลี่ยนแปลงไป

โบรกเกอร์ไม่ได้รอให้มีกรอบการทำงานนั้น อย่างน้อย 10 โบรกเกอร์ค้าปลีกและผู้ให้บริการแพลตฟอร์มได้เชื่อมต่อตัวแทน AI เข้ากับบัญชีลูกค้าจริงในช่วงครึ่งแรกของปี 2026 และ Claude ของ Anthropic ก็ได้รับการกล่าวถึงใน 9 โครงการที่เปิดตัวในจำนวนนั้น จากการศึกษาของ FM Intelligence

ขอบเขตอำนาจที่ตัวแทนได้รับนั้นแตกต่างกันไป Interactive Brokers อนุญาตให้ Claude ร่างคำสั่งซื้อขายที่ลูกค้าต้องอนุมัติก่อนที่จะส่งคำสั่งซื้อขายออกไป

ในอีกด้านหนึ่ง eToro อนุญาตให้นักลงทุนมอบหมายการซื้อขายให้กับตัวแทน AI ที่ทำงานอยู่ภายในพอร์ตการลงทุนที่แยกต่างหาก

จากการศึกษาของ FM Intelligence พบว่า ไม่มีแพลตฟอร์มใดที่อนุญาตให้ตัวแทนฝาก ถอน หรือโอนเงินของลูกค้าได้

ปัจจุบันบริษัทต่างๆ ต้องรายงานเหตุการณ์สำคัญต่อ FCA อยู่แล้ว

รูซูกล่าวว่า หน้าที่ดังกล่าว "ต้องครอบคลุมถึงความล้มเหลวครั้งสำคัญและเหตุการณ์เฉียดฉิวของ AI ด้วย"

เธออธิบายว่าการรายงานเหตุการณ์เกือบพลาดสำหรับ AI ที่ทำหน้าที่แทนผู้ใช้ ซึ่งหมายถึงระบบที่กระทำการในนามของผู้ใช้ เป็นทั้งเรื่องสำคัญในด้านการกำกับดูแลและความมั่นคงของชาติ

นอกจากนี้ FCA ยังได้เผยแพร่แนวทางปฏิบัติที่ดีและไม่ดีเกี่ยวกับ AI ในวันนี้ ซึ่งได้มาจากการทำงานร่วมกับบริษัทต่างๆ รวมถึงโครงการทดสอบ AI แบบเรียลไทม์ หน่วยงานกำกับดูแลระบุว่า แนวทางดังกล่าวไม่ได้สร้างข้อกำหนดใหม่ใดๆ

เอกสารนี้ระบุชื่อผู้จัดการอาวุโสสำหรับแต่ละกรณีการใช้งาน AI และระบุถึงการพึ่งพาโมเดลหรือผู้จำหน่ายรายเดียวว่าเป็นส่วนที่ควรปรับปรุง

กรณีศึกษาหนึ่งกล่าวถึงบริษัทแห่งหนึ่งที่ต้องออกแบบผลิตภัณฑ์ใหม่หลังจากที่รุ่นเดิมถูกยกเลิกการผลิต

นายรูซูกล่าวว่า ผลสำรวจร่วมกับธนาคารแห่งอังกฤษที่จะเผยแพร่ในสัปดาห์หน้า แสดงให้เห็นว่า 86% ของบริษัทต่างๆ ใช้ปัญญาประดิษฐ์ (AI) แล้ว ในสหภาพยุโรป 87% ของกรณีการใช้งาน AI ที่บริษัทหลักทรัพย์รายงานต่อสำนักงานกำกับดูแลตลาดหลักทรัพย์ยุโรป (ESMA) เป็นการใช้งานภายในองค์กร