我們常常說的人工智慧， 其實是離不開電腦， 但它主要依賴人類的關注點、洞察力和啟發。 人工智慧的願景就是使電腦像人類一樣思考和工作， 和人類難以區分。
如今， 人工智慧依賴機器學習， 依賴的是一類能夠隨著時間進行改善的演算法， 其關鍵是具備出色的資料處理能力， 並不斷對硬體及方法進行完善。 這是人工智慧的一貫原則， 但是由於需要處理和開發的資料規模較大， 而現實中沒有這麼多資料， 這個原則並未貫徹執行。 如今， 資料的規模每年提升一倍， 其增度超過了計算能力。
神經網路作為一種演算法， 屬於人工智慧領域機器學習範圍。 因此， 神經網路中包含一個組 - 深度神經網路的“子子類”。 包含兩個以上的輸入和輸出隱藏層。
機器學習演算法中的神經網路子類是最受關注的演算法。 例如將一張圖像輸入到深度神經網路， 它將找到並用方框（或輪廓）標記要找的人。
訓練網路需要哪些條件?首先，
提高訓練品質有助於獲得優質的、緊湊的模型。 如果利用充足的資料訓練機器學習演算法， 該演算法可以學習正確的緊湊表示， 不需要人類專家的説明（如識別與重新創建原始圖像）。
自動駕駛汽車是機器學習過程的絕佳例證。 車內有感測器處理、感測器資料捕獲、路徑規劃和駕駛控制功能。 資料中心負責整個車隊的車輛終端管理、車輛類比與驗證， 對感測器捕獲的資料進行分析。
當我們進行大規模並行處理時， 通信時間將會佔據大部分的總體計算時間。 因此， 單個節點計算能力越強， 工作負載性能（以總體訓練時間來衡量）的優勢越少。 因此， 我們需要超越樸素並行處理方案， 才能從大型計算資源中受益， 縮短訓練大型模型的時間。