捷克新創公司最新AI人工智慧科技幫你跟金融駭客說拜拜~(上) 捷克 AI 新創成金融駭客剋星 助企業找出資安新解方 有鑑於此，捷克一家新創公司「Resistant AI」開發一套機器學習技術，專門抵擋對抗式機器學習、竄改樣本、目標性操弄等等攻擊。 Resistant AI 目前主要提供兩項產品： 1. 文檔防禦（Resistant Documents） 駭客會偽造或更換銀行對帳單、購買收據、薪資單或 KYC 文件（Know Your Customer）的名稱等等「良性文件」，欺騙 AI 所驅動的認證系統、逃過檢測，藉此成功開啟銀行帳戶，或是讓自動處理系統批准借貸。 而「文檔防禦」是讓機器學習系統拒絕自動處理過程中遭遇的可疑文檔，並標記出所有惡意或可疑的來源。 2. 交易防禦（Resistant Transactions） 深度學習系統的測試，經典方法是收集大量人工標註好的數據，來評估系統的準確性。然而很難輸入未來所有可能發生的數據，也就無法得知系統的每個反應是否符合邏輯。並且只要將輸入的數據添加微小干擾，就可以欺騙深度學習系統，讓系統「核准」惡意數據。 「交易防禦」就是用 AI 偵測可疑的交易行為，例如當有付款、轉帳或是申請信貸等請求時，交易防禦系統就會進行統計性的檢查，若確實辨認出有問題的請求，就會阻止交易，保護系統模組內資訊不被偷取，也能防止系統受到誘導而做出錯誤的決定。 Resistant AI 的創辦人兼 CEO Martin Rehak 在資訊安全領域工作超過 12 年，他表示：駭客對於 AI 系統漏洞的破解技術已經越來成熟，這也讓啟發他跟他的團隊創立現在的 Resistant AI 來提供解決方案。公司當前的目標客戶是金融企業、金融科技新創，與在金融交易過程中採用AI的公司。 Resistant AI 於 4 月底進行種子輪融資，獲風險投資公司 Index Ventures 及 Credo Venture 領投，成功籌集 275 萬美元資金。 「以AI之矛，攻AI之盾」 AI 人工智慧的發展固然大幅提高人們的生活品質，但同時也要認識到科技的兩面性，科技僅僅是工具，水能載舟、亦能覆舟，若遭到有心人惡意利用也會產生負面影響。正如 AI 可以被用於詐騙，也可以被用於反詐騙，利用技術的方式不同，帶來的影響也不同。 因此，在面對一項科技時，除了理解、學習、使用之外，更要進一步超越它——努力成為卓越 AI 的創造者，才能不被 AI 所掌控。
▲ Fintech 金融科技市場中的 AI 人工智慧品牌（圖片來源：cbinsights，如有侵權請告知）
隨著科技浪潮來襲，金融產業也積極佈局，除了如區塊鏈、虛擬貨幣和 P2P 等新型交易模式愈發興盛外，傳統銀行的許多交易手續、分析工作也都交由人工智慧運籌帷幄。 但，導入 AI 不僅影響金融機構本身，虎視眈眈的駭客也馬上跟進，開發出特別針對人工智慧的攻擊手法。 而一家捷克新創公司 Resistant AI 找到了解決辦法──用 AI 反擊欺騙 AI 的網攻！ 金融業 AI 應用夯 8 成以上交易由程式自動執行 金融業是幾個快速導入 AI 的產業之一，並且因長期的監理要求，金融業的數據資料保存完整有序，AI 導入較為容易；一方面也是為了因應快速成長的數位通路需求。 玉山銀行科技長陳昇瑋表示，目前全球股市觀察，已經約有 8 至 9 成的交易都是程式執行的，而全球十大對沖基金中，有 6 個已導入 AI 協助交易，代表人工智慧 已在證券交易占有一定的份量。除了證券交易，AI 也被用在產業分析，用來預測股價。
但是，駭客也與時俱進，瞄準 AI 和機器學習的弱點，展開新型態的網路攻擊，導致金融組織或企業面臨巨額損失、機密資料或客戶資料外洩的風險。 駭客故意餵錯誤資料 誤導 AI 並非難事 AI 固然好用，但也不是萬靈丹，並且很可能變成攻擊目標。駭客若部署對抗式機器學習（Adversarial Machine Learning）找出機器學習模型的弱點，在訓練資料中參雜惡意樣本與駭入後台干擾參數，就能有迅速破壞 AI 運作。
趨勢科技全球安全研究副總 William Malik 也曾談過：「其實演算法是很粹弱的，很容易因為訓練資料被動手腳，導致要辨識動物的影像 AI 將長頸鹿辨識為單車。」因為 AI 不像人類，不是看整體而是「盯著」細節的部分，這些重要的細節被更動，AI 就會出狀況。 假若不幸遭到入侵，訓練資料被惡意加料，辨識模式被蓄意誤導，然後最後演算法在市面上佈署，就算是資安公司也可能會中招，讓 AI 反而成為欺騙防毒軟體的利刃。
機器學習 機器學習是人工智慧的一個分支、是實現人工智慧的一個途徑，即以機器學習為手段解決人工智慧中的問題。 機器學習理論主要是設計和分析一些讓電腦可以自動「學習」的演算法。機器學習演算法是一類從資料中自動分析而歸納出規則來，並利用此規則對未知的資料進行預測的演算法。 機器學習是第三波人工智慧發展的代表技術；而在眾多機器學習演算法中，深度學習（多層次類神經網路的代稱）是近幾年成長最快、表現最亮眼的技術。 深度學習 深度學習是機器學習演算法的一種的，為人工智慧中成長最快的領域。 「深度學習」是模擬人類神經網絡的運作方式，只要懂得定義問題，有足夠質量的資料以及轉化為模型的能力，幾乎可以應用在任何決策問題上，雖然不見得都有準確的預測能力。不過目前常見的 Google 語音辨識、文字翻譯、照片分類、自動回信、垃圾郵件判斷，現在都是用深度學習來做的。 Python 與人工智慧的關係 Python 是 AI 領域最多人使用的程式語言，主要原因之一是因為它有大量的資料庫，讓用戶可自由套用、執行各式功能、操作。這些資料庫由來自四面八方的來源 (如 PyPi) 所發布，包含預先編寫好的程式片段，讓 AI 開發人員不需要從頭開始編寫程式。 機器學習與深度學習都需要連續的數據處理，Python 的函式庫則可讓你取用、處理、轉換這些數據。例如應用於深度學習的 Keras 函式庫，它允許快速計算和原型設計，因為它除了使用計算機的 CPU 之外還使用 GPU。 其他與人工智慧、機器學習、深度學習有關的八個函式庫，請見此篇文章：連 IBM 都推！入行 AI 人工智慧必學 Python 的8大理由
AI 學習事務其實與人類學習事物的方法相仿，就是所謂的機器學習及深度學習。 機器學習理論主要是設計和分析一些讓電腦可以自動「學習」的演算法。機器學習演算法是一類從資料中自動分析而歸納出規則來，並利用此規則對未知的資料進行預測的演算法。 而「深度學習」又是模擬人類神經網絡的運作方式，只要懂得定義問題，有足夠質量的資料以及轉化為模型的能力，幾乎可以應用在任何決策問題上，雖然不見得都有準確的預測能力。不過目前常見的 Google 語音辨識、文字翻譯、照片分類、自動回信、垃圾郵件判斷，現在都是用深度學習來做的。
反之，不好的演算法會讓 AI 判斷錯誤。2016 年發生了全球首例 Tesla 自駕車撞上大貨車的意外，乃因 Tesla 的自動駕駛系統，無法辨識在強烈日照下而有反光的大貨車，因此未能即時做出煞車判斷。因為此演算法從未學習過這類大數據。 Python 與 人工智慧的關係？ Python 是目前人工智慧領域最被廣泛使用用的程式語言 因為 Python 的語言簡單好懂、就像是使用人類的語言在與電腦溝通一樣，加上跨平台的性質，操作方便快速，因此已有許多工程師使用其語言發布大量與人工智慧、機器學習、深度學習領域相關的資料庫，讓用戶可自由套用、執行各式功能、操作。這些資料庫由來自四面八方的來源 (如 PyPi) 所發布，包含預先編寫好的程式片段，讓 AI 開發人員不需要從頭開始編寫程式。 機器學習與深度學習都需要連續的數據處理，Python 的函式庫則可讓你取用、處理、轉換這些數據。例如應用於深度學習的 Keras 函式庫，它允許快速計算和原型設計，因為它除了使用計算機的 CPU 之外還使用 GPU。 其他與人工智慧、機器學習、深度學習有關的八個函式庫，請見此篇文章：連 IBM 都推！入行 AI 人工智慧必學 Python 的8大理由
人工智慧不只會自動駕駛車子~現在還會上職業重機比賽尬車!!對重機有興趣的同學千萬不要錯過今天的文章!! 人工智慧科學家在研發適用於各行各業的 AI 時，經常拿該領域的頂尖人物作為人工智慧學習的對象，並「餵」給它最精準的數據。有時研發出的人工智慧，表現竟意外超越人類。像是過去史丹佛大學研發的甩尾 AI「MARTYKhana」讓方程式車手嘆「要失業了⋯⋯」。過去在 2015 年，YAMAHA 就在東京車展上公開 AI 重機賽車手「MOTOBOT」第一代。
