هوش مصنوعی و ریسک های مدیریتی آن

 

حسین نوریان، مشاور مدیریت استراتژیک

درباره جنبه های مدیریتی هوش مصنوعی

 
دو گونه از مهم‌ترین استراتژی‌های تحقیق، توسعه و تحول در شرکت‌های پیشرو، راهبرد‌های سفر برنامه‌ریزی شده و تپه نوردی است که از حیث روش در مقابل یکدیگر قرار دارند. در سفر برنامه ریزی شده، مقصد و راه رسیدن به آن آشکار است در این حالت راهبردگذاران با دیدگاه روشنی از آنچه که ‌می‌خواهند و مسیری که باید پیموده شود مواجه اند پس گام‌های دستیابی به هدف را به صورت مشخص معین ‌می‌کنند و برنامه‌ای مشخص شامل روش، زمان و منابع مورد نیاز را فراهم ‌می‌سازند که دستمایه مدیران مجری تحول در سازمان خواهد بود. اما در استراتژی تپه نوردی مقصد معلوم نیست! مانند گردش‌گری که در محیط جدید ناشناخته دنبال ردپای افرادی که قبلا از آنجا گذشته اند را می‌پیماید به این امید که به مقصدی شگفت انگیز برسد متخصصین نوآوری فناوری‌های جدید را می‌کاوند تا دریابند که چگونه می‌توانند از آن استفاده کنند و با آن به چه مقصدی برسند. کمی‌عجیب و جالب توجه است که تحقیقات موسسات پژوهشی معتبر نشان می‌دهد که رویکرد دوم یعنی تپه‌نوردی بیشتر مورد استقبال شرکت‌ها قرار گرفته است و بازدهی آن هم بیشتر نشان داده شده است. این پژوهش‌ها آشکار کرده است که شرکت‌های نوآور، حتا زمانی که ایده روشنی از شیوه کاربرد تکنولوژی‌های جدید در کسب و کار خود ندارند، گرایش زیادی به تحقیق بر روی فناوری جدید نشان می‌دهند و به چگونه‌گی ‌بکارگیری آن می‌پردازند. اینترنت اشیا، اتوماسیون نسل چهارم و هوش مصنوعی از جمله چنین تکنولوژی‌هایی هستند که همواره یکی از گزینه‌های مهم استراتژی تپه نوردی شرکت‌ها است.
امروزه خدمات مرتبط با هوش مصنوعی خود به عنوان یک کسب و کار جدید رونق یافته است و تعدادی از شرکت های دانش بنیان در کشور ما با تحلیل داده ها و ارایه بینش های مدیریتی سودمند برامده از آنها ماموریت خود را در یاری رساندن به تصمیم گیری های مدیریتی بنگاه های بزرگ تعریف کرده اند. این گرایش بسیار مطلوب است چون ضمن اینکه می تواند در کارافرینی نیروهای زبده نقش موثری ایفا کند، به افزایش سطح بلوغ مدیریتی و تصمیم گیری شرکت های کشورمان نیز کمک خواهد کرد. اما طبیعتا هرجا که منفعت سرشاری باشد، ریسک‌های چشم‌گیری نیز وجود خواهد داشت که اگر در نظر گرفته نشوند احتمالا منابع مهمی‌ هدر خواهد رفت و از آنجا که هنوز این صنعت بالغ نشده است یاداوری این ریسک‌ها به فعالان این حوزه بسیار ضروری است ضمن آنکه با گسترش اینگونه خدمات باید مقررات مناسبی نیز متناسب با آن وضع گردد.

تحلیل ریسک سیستم‌های هوش مصنوعی

اکنون بسیاری از سازمان‌ها فهمیده‌اند که سیستم‌های هوش مصنوعی می‌تواند برایشان بازدهی زیادی را به همراه داشته باشد و به نوعی این فناوری از پتانسل شکل دهی کسب و کارهای آینده برخوردار است. اما بکارگیری این فناوری با ریسک‌هایی همراه است که برخی از شرکت‌های پیش رو آنها را تجربه کرده اند و یا با بهره‌گیری از روش‌های آنالیز ریسک به تحلیل آن و بررسی رویکردهای موثر مواجه‌ای پرداخته اند که میزانی از نتایج آن که منتشر شده است نشان دهنده وجود مخاطرات قابل ملاحظه ای در این حوزه است. با این همه نه پرهیز از هوش مصنوعی امکان پذیر است و نه چشم بستن بر ریسک‌ها و مخاطرات آن. پس شرکت‌ها باید همراه با تیم‌های فنی تحقیق و توسعه این تکنولوژی، گروه‌هایی با تخصص‌های آنالیز ریسک و حقوقی را نیز فعال کنند که جنبه‌های توسعه و کاربری هوش مصنوعی از هر حیث را برایشان آشکار نماید. این تیم‌ها باید از ابتدای فرایندهای مرتبط با هوش مصنوعی شامل جمع آوری اطلاعات و تحلیل و ارایه بازخورد را مورد بررسی قراردهند و مخاطرات فنی، استراتژیک و حقوقی آن را به صورت جامع و شفاف تحلیل نمایند. گونه‌هایی از ریسک‌های مرتبط با این فناوری به شرح زیر تحلیل گردیده است و البته باید توجه داشت که به فراخور نوع و کاربری این سیستم‌ها، ریسک‌های دیگری نیز ‌می‌تواند گریبانگیر شرکت‌ها شود

حریم خصوصی داده‌ها:

داده‌ها سرچشمه حیات سیستم‌های هوش مصنوعی هستند زیرا تما‌می‌تحلیل‌های این سیستم‌ها بر پایه داده‌ها استوار است. با این همه در کشورهای مختلف قوانینی درباره مالکیت و نحوه استفاده از داده‌ها وجود دارد که اگر ریسک مغایرت با آنها دیده نشود، حجم انبوه استفاده از داده‌ها، تبعات قانونی مهمی‌را به همراه خواهد داشت. حتا اگر از حیث مالکیت، استفاده از اطلاعات منعی نداشته باشد، تجاوز به حریم خصوصی مشتریان و جامعه، اعتماد آنها را مخدوش خواهد کرد و به نشان تجاری و اعتبار سازمان لطمه‌های شدید وارد می‌کند.
از آنجا که مکانیزم بسیاری از مدل‌های هوش مصنوعی بر پایه داده‌های ورودی است. اغلب آنها نسبت به کیفیت و دقت این داده‌ها بسیار آسیب پذیر عمل ‌می‌کنند. از آنجا که هوش مصنوعی شیوه ای خود تکاملی دارد، در ابتدای به کارگیری آن وقتی که میزان داده‌ها اندک است ممکن است نتایج حاصل از کیفیت و روایی کافی برخوردار نباشند و وقتی که اطلاعات حاصل از آنها قرار است منجر به تصمیم گیری‌های بسیار مهم و جهت ساز استراتژیک گردد، ریسک خطا به وجود خواهد آمد. باید توجه داشت در تغذیه داده‌های ورودی و گزارشات خروجی ممکن است الزامات انصاف و بی طرفی رعایت نشود و افراد متناسب با منافع خود یا نگرش مشتریانشان، این موارد را دست کاری کنند که این نیز ‌می‌تواند به مخاطرات قانونی و حیثیتی برای بنگاه‌ها منجر گردد.
 

شفافیت و قابلیت توضیح:

در بسیاری از مواقع اطلاعات حاصل از سیستم‌های هوش مصنوعی با دیدگاه‌های قبلی کاربران آن در تناقض است و آنها در معرض تصمیم گیری بر مبنای اطلاعاتی قرار ‌می‌گیرند که با اطمینان نمی‌توانند نسبت به آن باورمند باشند. از این رو سیستم‌های با کیفیت هوش مصنوعی باید بتواند با شفافیت مکانیزم تبدیل داده‌ها به اطلاعات خروجی را برای کاربران آن توضیح دهد تا آنها نسبت به صحت و دقت این اطلاعات اطمینان بیابند. در برخی از کشورهای جهان الزاماتی نیز درباره شفافیت مدل تحلیلی در سیستم‌های هوش مصنوعی وضع گردیده است.
 

ریسک‌های شخص سوم:

اغلب سیستم‌های هوش مصنوعی بر پایه مقایسه میان داده‌ها است. مقداری از این داده‌ها بر اساس تراکنش‌های مشتری و کاربر ایجاد ‌می‌شود و  ممکن است که میزانی از داده‌ها که معیار مقایسه قرار ‌می‌گیرند از شرکت‌ها افراد دیگر جمع آوری شده باشد. این موارد ‌می‌تواند ریسک‌های مختلف مرتبط با شخص سوم را برای مالک و کاربران سیستم هوش مصنوعی ایجاد نماید. بنابر این در طرح ریزی اینگونه از سیستم‌ها باید تحلیل موثری از الزامات و حقوق ذی نفعان مختلف سیستم در لایه‌های متفاوت انجام گردد و متناسب آن راهکارهای فنی و حقوقی محافظت از مالکیت داده‌ها اندیشیده شود.
 

ریسک عملکرد سیستم:

خروجی بسیاری از سیستم‌های هوش مصنوعی در تصمیم گیری‌های بلادرنگ سازمانی به کار ‌می‌رود. بنابر این قابلیت اطمینان و پایایی این سیستم‌ها ‌می‌تواند منشا ریسک‌هایی برای ارایه دهنده خدمات و کاربران آن ایجاد کنند هرگونه اختلال یا کندی ‌می‌تواند موجب مختل شدن تصمیم گیری‌های بلادرنگ شود و تبعات اقتصادی و حقوقی را به همراه داشته باشد. پس لازم است سطوح توافق شده خدمات به دقت میان ارایه دهنده و کاربران با توجه به قابلیت‌های واقعی سیستم معین و مدون گردد.
 
استفاده از موارد فوق تنها با ذکر منبع مجاز است. جهت دریافت اطلاعات بیشتر یا مشاوره مدیریت استراتژیک با ایمیل hossein.nourian@gmail.com تماس حاصل فرمایید.
 

شما ممکن است این را هم بپسندید