از امنیت سیستمها تا امنیت تصمیمها؛ جنگ آینده بر سر اعتماد است، نه نفوذ
سه شنبه ۱۰ شهریور ۱۴۰۵
سید مهدی جوادی، کارشناس حقوق فناوری و امنیت سایبری، در پنل تخصصی «جنگ هوشها؛ آیا AI ناجی امنیت سایبری است یا قدرتمندترین سلاح علیه مردم؟» گفت: «هوش مصنوعی ذاتاً نه مهاجم است و نه مدافع؛ یک ضریب قدرت است و مسئله اصلی این است که کدام طرف سریعتر و هوشمندانهتر از آن استفاده میکند.»
مدیرعامل شرکت تجارت الکترونیک پارسیان کیش با اشاره به تغییر ماهیت تهدیدات افزود: «ما از عصر امنیت سیستمها وارد عصر امنیت تصمیمها میشویم. خطرناکترین حمله آینده الزاماً حملهای نیست که سیستم را از کار بیندازد؛ ممکن است سیستم کاملاً سالم و فعال باشد، اما مهاجم آن را وادار به تصمیم غلط کند.»
جوادی با اشاره به گسترش Deepfake تأکید کرد که در عصر هوش مصنوعی، «دیدن و شنیدن» دیگر برای اعتماد کافی نیست و سازمانها باید از «شناخت هویت» به سمت «اثبات هویت» و کنترلهای مستقل و چندلایه حرکت کنند.
این کارشناس حقوق فناوری و امنیت سایبری همچنین با اشاره به گسترش Agentic AI گفت: «سؤال امنیتی آینده فقط این نیست که هوش مصنوعی چه میداند؛ سؤال مهمتر این است که اجازه دارد چه کاری انجام دهد.» وی تأکید کرد: «میتوان بخشی از تصمیم را به هوش مصنوعی سپرد، اما نمیتوان مسئولیت و پاسخگویی را به الگوریتم واگذار کرد.»
جوادی در پایان گفت: «برنده جنگ هوشها الزاماً کسی نیست که قدرتمندترین هوش مصنوعی را دارد؛ برنده کسی است که سریعتر یاد میگیرد، دقیقتر اختیار میدهد و مسئولیت را گم نمیکند. جنگ آینده فقط جنگ بر سر هوش نیست؛ جنگ بر سر اعتماد است.»
این نشست به میزبانی علیرضا حقیقی و با حضور سید مهدی جوادی و محسن مهدینیا، استاد دانشگاه و متخصص هوش مصنوعی، در نخستین روز نمایشگاه الکامپ برگزار شد.