根據國際數據中心 IDC 於 2019 年 5 月，對 2,473 家在營運中使用 AI 解決方案的機構進行調查發現，在已經使用 AI 的組織中，只有 25% 的組織制訂了「企業範圍」的 AI 戰略，並且發現在部署 AI 的過程中，大量計劃注定失敗。根據富士通的問卷調查顯示，真正建構起 AI 系統的日本企業，只有 1%。
系統開發大廠日本電器（NEC）每年收到 500 宗左右的企業諮詢，都是為了「想引入 AI」。該公司人工智能分析事業部長池田雅之表示：「很多個案根本就不適合使用 AI。」最常見的是引入成本太高，與達成的效益不成比例。
以零售業為例，如果能用 AI 來預測客戶需求，進一步達成精準存貨管理，那將是革命性的突破。但事實是，一件成本 200 日元的商品，為了能一天減少 10 件存貨，省下 2,000 日元的損耗，必須耗費數百萬日元引入系統。若以淨利 10% 計算，代表得增加上千萬的營收才能負擔研發 AI 系統，成本效益相當低下。
若是擁有高附加價值的精密製造業呢？
本田汽車零件供應商武藏精密工業，利用深度學習（Deep learning），開發出在工廠內自動找出不良品的系統。這項計劃和日本與以色列的 AI 新創企業合作，2018 年秋季檢查的精確度，已可媲美資深檢查人員。
工廠內一般由資深檢查人員，以目測檢查產品。然而檢查人員熟練度參差不齊，而且長時間工作，也會對檢查人員構成很大負擔。檢查工序佔產線約兩成，如果能自動化，人員就可以派遣到其他崗位。武藏精工利用大量的影像資料，藉由 AI 深度學習，因而得以提高檢查精度。
儘管技術已經做到頂尖，成本控制也在合理範圍內，但武藏精工卻還是無法完全以 AI 來取代人力。卡在他們眼前的瓶頸，叫做「安全性」。
由於一輛車由大約三萬個零件組成，製車品質不良，代價可能就是人命。即使能大規模回收再修理，也會造成巨大損失。
武藏精工的 AI 計劃負責人村田宗太直言：「車廠以及相關的多數企業之間，必須針對自動化基準等取得共識才行，這讓人傷透腦筋。」不過，等到業界的基準確定後就太慢了，只有先自行展開實證實驗。
能被嚴格管理的工廠對於 AI 尚且存有疑慮，更遑論一般消費者。美國知名調查機構 J.D.Power 等公司，2018 年在日、中、美、德四個國家所作的無人駕駛車意見調查，顯示只有 32% 的人能夠完全信賴自動駕駛，高達 7 成人抱持懷疑的態度。這個結果充分顯示，如果不能消除人類的心理抗拒，完全自動駕駛的汽車就很難正式普及上路。
不過最經典的 AI 爭議案例，當屬 IBM 引以為傲的 Watson。這個砸下數十億美元研發的醫療 AI 系統，號稱可以做出跟醫生一樣的專業醫療診斷，在全世界已經被超過 230 家醫院訂購，但 2018 年流出的一份內部文件，卻驚爆「AI 醫生可能會醫死人」的訊息。
根據美國醫學媒體 STAT 的報道，許多醫生在使用 Watson 時，發現 AI 給出了「多個不安全、不正確的治療意見」，甚至在極端的診斷案例中，Watson 給有出血症狀的癌症病人開了容易導致出血的藥品，嚴重時可致患者死亡。
雖然這個狀況並非出現在真實醫療場景，而是內部模擬訓練 AI 的過程。目前使用 Watson 系統的醫院也強調：「AI 只是輔助」，但足以讓人重新省思，如果有一天，AI 開錯藥、撞車，責任該誰屬？畢竟人為疏失有法律可管，AI 出錯該如何懲罰演算法？又，若基於成本、安全性等考量，最終 AI 還是得依靠人力，那又何必需要 AI 呢？這都是科技創新時需要面對的現實問題。
