廣州樂行機器視覺設備技術有限公司

     佐治亞理工學院（Georgia Institute of Technology）博士生拉姆普拉薩亞斯·塞爾瓦拉朱（Ramprasaath Selvaraju）沒有參與這項研究，他說這項研究很吸引人，結合了許多現有的想法，創造了一個非常有用的新工具。
    
     Selvaraju認為，在未來，這類工作將有許多用途，幫助我們建立更高效和先進的算法，并通過允許研究人員進入來提高其安全性和消除偏見。由于神經網絡的內在復雜性，它們缺乏可解釋性，但在未來，當H網絡通常用來驅動汽車和引導機器人。
    
     Openai的ChrisOlah也參與了這個項目，他說：這就像是在制作一個顯微鏡，至少，這是我們正在尋找的。
    
     要了解激活地圖集和其他功能可視化工具的工作原理，首先需要了解人工智能系統如何識別對象。
    
     實現這一目標的基本方法是使用神經網絡：一種與人腦大致相似的計算結構（盡管它在復雜性上落后了幾年）。每個神經網絡內部都有一個人工神經元層，連接起來像一個網。與大腦中的細胞一樣，這些細胞對刺激作出反應，這一過程稱為激活。重要的是總之，它們不僅可以被打開或關閉，還可以在光譜中注冊，為每個激活提供特定的值或權重。
    
     為了把神經網絡變成有用的東西，必須提供大量的訓練數據。在視覺算法的情況下，這意味著數十萬甚至數百萬個圖像，每個圖像都有一個特定的類別。在谷歌和OpenAI研究人員為這項工作測試的神經網絡的情況下，這些類別是廣泛的：從羊毛到溫莎領帶，從安全帶到空間加熱器。
    
     神經網絡使用多層連接的人工神經元來處理數據，不同的神經元對圖像的不同部分做出反應。
    
     當它提供這些數據時，神經網絡中的不同神經元對每一幅圖像都會亮起。這個模式與圖像的標簽相連，它允許網絡了解事物的外觀。一旦經過訓練，你就可以顯示你以前從未見過的網絡圖片，神經元將激活以匹配特定C的輸入。類別。
    
     如果所有這些聽起來都令人不安，那是因為，在許多方面，這是相同的。與許多機器學習程序一樣，視覺算法本質上只是模式匹配機器。這給了它們一些優勢（例如，只要你有必要的數據和計算能力，你就可以直接訓練它們）。但它也帶來了一些弱點（例如Y很容易被以前從未見過的輸入混淆）。