بازگشت به اخبار
TechCrunch

Amex چارچوبی برای جلوگیری از انجام خریدهای غیرمجاز توسط عامل‌های هوش مصنوعی معرفی کرد

سه‌شنبه، ۲۱ مهر ۱۴۰۵۱۶:۴۸Sarah Perez
Amex introduces a framework to prevent AI agents from making unauthorized purchases

American Express در حال معرفی چارچوبی جدید است تا اطمینان حاصل کند که عامل‌های هوش مصنوعی فقط خریدهایی را انجام می‌دهند که کاربرانشان مجوز آن‌ها را صادر کرده‌اند؛ اقدامی که با گسترش خریدهای مبتنی بر هوش مصنوعی می‌تواند از اشتباهات پرهزینه و اختلاف‌ها جلوگیری کند.

عامل‌های هوش مصنوعی شخصی بیش از پیش از طرف کاربران خود تراکنش انجام می‌دهند، اما با توجه به ماهیت غیرقطعی مدل‌های زبانی بزرگ، این ربات‌ها ممکن است کاری را انجام دهند که نباید. در این مورد، این مسئله احتمال خطای عامل هوش مصنوعی و انجام تراکنش‌های بدون مجوز را مطرح می‌کند.

American Express برای پیشگیری از این مشکل، چارچوب تازه‌ای معرفی می‌کند که قرار است پیش از نهایی‌شدن تراکنش به‌دست عامل هوش مصنوعی، قصد خرید مشتری را ثبت و احراز کند.

Amex می‌گوید ایده این است که راهی برای اطمینان از همراه‌بودن دستورهای خرید مشتری در تمام مراحل تراکنش وجود داشته باشد؛ از خرید گرفته تا همه اتفاق‌هایی که پس از آن رخ می‌دهد.

این شرکت امیدوار است چارچوبی که «Intent Intelligence Framework» نام گرفته، به استانداردی صنعتی برای تراکنش‌های مبتنی بر هوش مصنوعی تبدیل شود.

Hannah Bozian، معاون مشارکت‌های agentic و راهبرد در Amex، در گفت‌وگو با TechCrunch توضیح داد: «در این تراکنش‌های جدید، یک مشتری، یک فروشنده و یک عامل حضور دارند.» او گفت این شرکت می‌خواست اطمینان حاصل کند که تراکنش‌های agentic همچنان «یکپارچه، قابل‌اعتماد و امن باشند؛ درست همان‌طور که اعضای کارت ما انتظار دارند.»

معرفی این چارچوب پس از آن صورت می‌گیرد که این شرکت در آوریل، Amex’s Agentic Commerce Experiences یا ACE Developer Toolkit را راه‌اندازی کرد؛ مجموعه‌ای که شامل چند سرویس است و اکنون چارچوب ثبت قصد خرید را نیز در بر می‌گیرد.

Amex اعلام کرد هنوز شاهد افزایش اختلاف‌ها و اعتراض‌ها به تراکنش‌ها در پی گسترش تجارت agentic نبوده است، اما می‌خواست با گسترش این نوع تجارت، در توسعه این فناوری پیش‌قدم باشد. بخشی از این تصمیم به این دلیل است که مصرف‌کنندگان نشان داده‌اند برای امتحان‌کردن تجارت agentic آمادگی دارند.

این شرکت به TechCrunch گفت در گزارش اخیر Amex Trendex، ۶۶ درصد از مصرف‌کنندگان آمریکاییِ شرکت‌کننده در نظرسنجی گفته‌اند احتمالاً از عامل‌های هوش مصنوعی برای یافتن بهترین قیمت یک محصول یا خدمت استفاده می‌کنند و ۶۱ درصد نیز گفته‌اند احتمالاً طی ۱۲ ماه آینده برای دریافت پیشنهاد محصول یا خدمت از آن‌ها کمک می‌گیرند.

در گام نخست، چارچوب جدید ثبت قصد خرید Amex با یک Create Intent API آغاز می‌شود که دستورهای خرید مشتری و محدودیت‌های دیگری را که ممکن است در درخواست خود ذکر کرده باشد ثبت می‌کند؛ از جمله نام فروشنده، سقف بودجه و ترجیحات دیگر درباره محصول. Bozian گفت نحوه گردآوری این اطلاعات ممکن است بسته به مدل هوش مصنوعی مورد استفاده متفاوت باشد، اما هدف این است که چارچوب به‌اندازه‌ای انعطاف‌پذیر باشد که از همه مدل‌های تجارت agentic پشتیبانی کند.

سپس مشتری هویت خود را احراز می‌کند و قصد خریدی را که عامل ثبت کرده است تأیید می‌کند.

در مرحله بعد، یک Intent ID، شناسه‌ای منحصربه‌فرد برای نشان‌دادن قصد خرید، ایجاد می‌شود و در کنار آن، یک Proof of Intent Token ساخته می‌شود که محدودیت‌های کلی مشتری را در بر دارد. از این توکن برای دریافت یک اعتبار پرداخت دیجیتال امن استفاده می‌شود؛ عاملی که هنگام پرداخت به‌جای شماره واقعی کارت اعتباری مشتری از آن استفاده می‌کند. Amex می‌گوید به این ترتیب، خرید هم امن می‌ماند و هم با آنچه مشتری به عامل اجازه انجامش را داده است، مطابقت دارد.

به‌گفته Amex، این Intent ID و توکن را می‌توان در بخش‌های مختلف فرایند تراکنش نیز به کار گرفت تا به شرکت‌ها در مدیریت حوزه‌هایی مانند پیشگیری از تقلب و رسیدگی به اختلاف‌ها کمک کند.

Bozian گفت: «رویکرد ما با راهکارهای دیگران تفاوت دارد، چون قصد خرید را در مرحله‌ای زودتر وارد جریان تراکنش می‌کند. این اهمیت دارد، چون کمک می‌کند پیش از بروز خطر، بخشی از آن را کاهش دهیم.» او مثالی از مشتری‌ای زد که از عامل می‌خواهد کفش‌های کتانی سفید Nike را در سایز ۹ بخرد، اما عامل درخواستی برای خرید کفش‌های Adidas ثبت می‌کند. در چنین شرایطی، Amex می‌تواند از انجام تراکنش جلوگیری کند، چون عامل اشتباه کرده است.

Bozian همچنین اشاره کرد که اگرچه بسیاری از عامل‌ها در حال حاضر پیش از خرید از مشتری اجازه می‌گیرند، Amex آینده‌ای را متصور است که در آن عامل‌ها در برخی موارد مستقل‌تر عمل کنند. برای نمونه، ممکن است مصرف‌کننده به عامل خود اجازه دهد اقلام ضروری خانه، مانند دستمال حوله‌ای یا دستمال توالت، را دوباره سفارش دهد؛ کالاهایی که در آن‌ها تنها محدودیت‌های واقعی، قیمت و اندازه‌اند و نه فروشنده یا برند. در چنین سناریوهایی، منطقی است که فناوری با انجام یک بررسی اضافی در جریان فرایند، اطمینان حاصل کند تراکنش‌ها با قصد مشتری مطابقت دارند.

او افزود ثبت اینکه کدام عامل، چه چیزی را و در چه زمانی مجاز دانسته است، می‌تواند به رسیدگی به تقلبی که عامل در آن نقش دارد نیز کمک کند.

Amex هم‌اکنون برای پیاده‌سازی ACE با شرکای خود در بخش‌های مختلف زیست‌بوم پرداخت گفت‌وگو می‌کند. ACE علاوه بر بخش‌های دیگر بسته توسعه‌دهندگان، شامل توکن‌های agentic حاوی اطلاعات پرداخت Amex نیز می‌شود.

این شرکت اعلام کرد قصد دارد هم‌زمان با تحول زیست‌بوم تجارت agentic، ACE را به‌طور فعال توسعه دهد.

Hannah Bozian، معاون مشارکت‌های agentic و راهبرد در American Express، در ۱۳ اکتبر و در بخش Industry Stage رویداد TechCrunch Disrupt 2026، درباره «Intent Intelligence Framework» جدید این شرکت و معنای آن برای دنیای تجارت agentic بیشتر توضیح خواهد داد.

اخبار مرتبط از TechCrunch AI

The unfolding Jensen Huang scandal: a timeline

خط زمانیِ رسواییِ فزایندهٔ جنسن هوانگ

این ماجرا می‌تواند برای امنیت ملی پیامدهایی داشته باشد؛ آن هم در شرایطی که آمریکا و چین برای توسعه پیشرفته‌ترین زیرساخت هوش مصنوعی با یکدیگر رقابت می‌کنند.

TechCrunch۲۱ آبان۰۳:۲۹