材料擠壓是最廣泛使用的增材制造方法，但其在最終用途産品中的應用受限于易出錯性。人類可以檢測錯誤，但無法提供持續監控或實時糾正。現有的自動化方法不能在不同的零件、材料和打印系統中通用。我們使用偏離最佳打印參數自動标記的圖像訓練多頭神經網絡。數據采集和标記的自動化允許生成一個龐大而多樣的擠壓 3D 打印數據集，其中包含來自 192 個不同部分的 120 萬張圖像，并用打印參數标記。如此訓練的神經網絡，連同一個控制回路，能夠實時檢測和快速糾正各種錯誤，這些錯誤在許多不同的 2D 和 3D 幾何形狀、材料、打印機、刀具路徑甚至擠壓方法中都是有效的。我們還創建了網絡預測的可視化，以闡明它是如何做出決策的。

材料擠壓是最常見的增材制造 (AM) 方法，原因包括其成本相對較低、後處理量少、與多種材料的兼容性以及多材料能力1。這些在許多領域2 ，包括醫療保健3，醫療設備4，航空航天5和機器人技術6。

但是，這些應用程序中的許多應用在研究階段仍然存在的關鍵原因是，擠出AM容易遭受各種生産錯誤的影響。這些範圍從小規模的尺寸不準确和機械弱點到總的構建失敗1 , 7 , 8 , 9, 10 . 為了抵消錯誤，熟練的工人通常必須觀察AM過程，識别錯誤，停止打印，删除零件，然後适當調整新零件的參數。

如果使用新材料或打印機，此過程需要更多時間，因為工人會獲得新設置11、12的經驗. 即使那樣，也可能會錯過錯誤，尤其是如果工人沒有不斷觀察每個過程。如果多台打印機同時運行，或者正如Covid-19-19的大流行所強調的那樣，這可能很困難，由于社會疏遠或疾病，人員受到限制。這種不僅會花費材料，能量和時間，而且還限制了最終用途産品中AM零件的使用，尤其是安全至關重要的産品，例如醫療設備以及基于AM的供應鍊的彈性。随着增材制造擴展到生活和功能材料、複雜的多材料晶格結構以及諸如偏遠、戶外建築工地或人體等具有挑戰性的環境，這些挑戰将變得更加緊迫。

這激發了各種有趣的研究，以監測擠出AM 13。當前的14、15，慣性16、17和聲學18、19、20、21、22個傳感器通常用于監測擠出AM。_ _ 盡管這些方法導緻對打印過程中某些（通常是大規模的誤差方式）的可靠檢測，但許多錯誤仍無法檢測到。這些方法也尚未在大多數3D打印機中使用，因為這種方法的傳感器和放大器的成本通常很高。此外，它們不足以數據富含數據，以實現在線反饋和更正。

基于攝像機的方法可能具有通用性和數據豐富。單台相機安裝在打印機框架上，具有自上而下或側面的視圖，再加上傳統的計算機視覺和圖像處理技術，已被用于檢測多樣的擠壓AM AM錯誤23、24、24、25、26、27、27、28、29，30、31、32 _ _ _ _. 這種方法具有相對便宜，更易于設置的優點，并且相機通常可以随時查看大部分制造零件。這允許檢測到許多錯誤，例如填充變形或材料“斑點”的存在。

但是，使用單個攝像頭可以限制有關制造過程的信息量，從而限制錯誤和錯誤類型的範圍。多相機方法實施更昂貴和複雜，但潛在的能力更強。該零件的多種視圖或添加紅外攝像機可以允許從單個觀點33、34、35看來可能不明顯的缺陷，例如不完整的印刷品。. 例如，由多相機 3D 結構光掃描和數字圖像相關生成的打印部件的 3D 重建可以與 3D數字部件模型進行比較，以檢測尺寸不準确35、36、37、38、39、40、41、42，43。_ _ 但是，這些更複雜的系統通常是昂貴的，對照明條件和零件表面特性敏感，由于掃描時間和計算，需要精确的定位和校準，并且僅限于檢測到足夠大的錯誤以查看給定的掃描儀分辨率限制。

如上所述，框架安裝的單攝像機和多攝像頭方法也經常發現很難查看材料，因為它是從噴嘴中沉積的，因為打印頭會遮蓋視圖。通常，必須暫停打印以允許對一層的成像，從而防止實時校正，減慢生産率并自身由于擠壓不一緻而導緻錯誤。這激發了在噴嘴或擠出機上安裝單個和多個攝像頭的工作，這些攝像頭可以查看正在進行的打印過程，并啟用實時反饋以糾正打印過程中過度或不足的擠出44、45以及材料形狀的估計從噴嘴46擠出. 傳統的計算機視覺方法非常有前途，可以明确針對已校準的 3D 打印系統中特定部分的特定錯誤。然而，手工制作可以泛化到不同零件、打印機、材料和設置的特征提取算法是非常具有挑戰性的。因此，大多數示例僅顯示了打印機、零件幾何形狀、材料和打印條件的單一組合，并且沒有顯示對多個零件或設置中的錯誤進行更正。

機器學習，特别是深度學習技術已經通過以其他更簡單的表示48來表達複雜的表示，在包括Vision 47在内的許多應用程序中都取得了最新的性能。這導緻了幾次令人興奮的機器學習擠壓AM錯誤檢測的演示49、50、51、52、53、54、55、56. 然而，現有的工作隻證明了單個部分的錯誤檢測，因此現有技術對其他部分的有效性，特别是在訓練數據中沒有看到的部分，是未知的。

此外，大多數現有方法隻能檢測到單一的錯誤模式：流速差49、層間缺陷50 、翹曲變形53和大的頂部表面缺陷52、54。現有的方法通常還需要一個已經成功打印的對象，以便為錯誤檢測提供比較51 , 54 , 55 。. 對于自定義零件，這可能尤其有限。機器學習在錯誤檢測方面最令人興奮，因為它可能比手工制作的特征更強大，更适用于新材料、幾何形狀和打印機。但是，機器學習算法發現可概括的錯誤特征的潛力仍然沒有探索。

為了使錯誤檢測在減少3D打印廢物并提高可持續性，成本和可靠性方面具有全部潛力，必須與誤差校正結合使用。已經在檢測和糾正同一對象51、55的後續打印之間的某些類型的錯誤方面進行了工作。但是，該對象的許多打印都需要構建數據集，從而在該對象中啟用錯誤校正。此外，這些方法無法實時糾正，這意味着如果檢測到錯誤，則無法恢複該部分。先前的一項研究檢查了擠出 AM 49的實時校正和控制. 但是，該實施僅演示了流量打印參數的校正，并且僅在用于訓練和測試系統的一種幾何形狀中進行。在錯誤檢測和糾正之間也存在明顯的延遲。與錯誤檢測的情況一樣，現有糾錯方法在看不見的物體中的性能尚不清楚，這限制了它們的工業實用性。

在這裡，我們報告了一種易于部署的方法，該方法使用廉價的網絡攝像頭和單個多頭深度卷積神經網絡來增強任何基于擠壓的 3D 打印機，并為新材料提供錯誤檢測、校正和參數發現（圖 1 ））。通過Caxton的開發：協作自主擠出網絡，它在這項工作中已經實現了這一點，該網絡連接并控制了學習3D打印機，允許車隊數據收集和協作端到端學習。網絡中的每個打印機都可以在零件拆卸系統的幫助下連續打印和收集數據。與現有的深度學習AM監視工作不同，該工作通常使用人類的錯誤标記來訓練算法，Caxton會根據偏離最佳打印參數的偏差來自動标記錯誤。

因此，Caxton不僅知道如何識别如何識别，還知道如何糾正各種錯誤，因為對于每個圖像，它知道打印參數與其最佳值有多遠。這種自主生成的培訓數據可以創建更大，更多樣化的數據集，從而獲得更好的準确性和普遍性。最終系統能夠實時和實時檢測和糾正多個參數。由于單個共享特征提取主鍊，多頭神經網絡可以自學習制造參數之間的相互作用，甚至使系統能夠識别多個解決方案以求解相同的錯誤。作為這項工作的一部分，已經策劃了一個大規模的，光學的原位過程監視數據集，并将釋放。

它包含超過100萬個從打印機噴嘴中的材料沉積的樣本圖像，并帶有其各自的印刷參數，這些打印參數來自不同的2D和3D幾何形狀。該系統是高度可擴展的，使用常用固件，并且能夠通過遠程添加更多打印機來實現更大、更多樣化的未來數據集的增長。盡管僅針對擠出的熱塑性聚乳酸部件進行了培訓，但這些功能可以推廣到以前看不見的打印機、相機位置、材料和直接墨水寫入擠出。

我們還描述了一些創新，例如刀具路徑拆分和比例參數更新，與當前發布的實時 3D 打印糾錯工作相比，這些創新使校正速度提高了一個數量級。這可以通過僅需要網絡連接的低成本設備、标準消費者網絡攝像頭和低成本單闆計算機（例如，Raspberry Pi）來實現。最後，在網絡中使用注意力層使人類操作員能夠解釋網絡關注的特征。然後使用可視化方法來深入了解經過訓練的神經網絡如何進行預測，以幫助基本理解并幫助建立信任或實現可追溯性。

圖1：用于自動數據收集的CAXTON系統的概述。

用于從擠壓 3D 打印機收集各種數據集的工作流程，并使用打印參數自動标記圖像。b八台熱塑性擠出 3D 打印機 (Creality CR-20 Pro) 的機隊配備了專注于噴嘴尖端的攝像頭，以監控材料沉積。c使用随機選擇的切片參數渲染單個輸入幾何圖形的生成刀具路徑。d示例打印期間收集的數據快照，顯示具有不同參數組合的圖像。e利用現有運動系統設計的移床器和碼頭以及操作期間拍攝的照片。FCaxton收集的完整數據集中的歸一化參數的分布，包含超過120萬個樣本。

我們生成了一個新的 3D 打印數據集，其中包含使用聚乳酸 (PLA) 打印的零件，并标有相關的打印參數，使用熔融沉積建模 3D 打印機針對各種幾何形狀和顔色進行标記。我們的CAXTON數據生成管道自動化從STL文件選擇到工具路徑計劃，數據收集和存儲的整個過程（圖 1A）。模型幾何圖形會自動從在線存儲庫 Thingiverse 下載。随後使用随機采樣設置（例如比例、旋轉、填充密度、填充圖案和壁厚）對幾何圖形進行切片。然後通過自定義 Python 腳本将生成的刀具路徑轉換為具有 2.5 毫米的最大移動，以避免執行單個參數集過長的移動并減少固件響應時間。

在打印期間，每 0.4 秒捕獲一次圖像。每個捕獲的圖像都帶有時間戳并标有當前打印參數：熱端和床的實際和目标溫度、流速、橫向速度和 Z 偏移。這些參數可以通過從固件中實時檢索值或通過使用 G 代碼命令設置值來精确知道。

此外，對于每個圖像，保存每台打印機上的噴嘴尖端坐标，以便在訓練期間自動裁剪感興趣的區域。在收集了 150 張圖像後，通過對每個參數的均勻分布進行采樣，為每台打印機生成新的打印參數組合。新的參數組合通過網絡作為 G 代碼命令發送到每台打印機，随後由于刀具路徑轉換而以最小的延遲執行這些命令。執行時，在參數更新過程再次發生之前，會收集另外 150 個标記圖像。這一直持續到打印結束，并産生一組圖像，每組圖像的打印參數都大不相同（圖 1）。通過對每個參數的均勻分布進行采樣，為每台打印機生成新的打印參數組合。在參數更新過程再次發生之前，又收集了 150 個标記圖像。這一直持續到打印結束，并産生一組圖像，每組圖像的打印參數都大不相同（圖 1）。 1d )。

每個圖像的這種自動标記過程提供了比基于人工的标記更高的分辨率，因為沒有人工操作員可以以相同級别的準确度标記參數（例如，當前流速為 56%），并且沒有人可以用多個打印參數相互強烈相互作用的确切組合（例如，噴嘴過高，流速過低，溫度過低或這些的加權組合）。

由于采樣次優參數組合，一些打印變成完全失敗，在某個點之後提供的相關參數信息很少。這些圖像被手動删除，留下 1,166,552 個标記圖像（原始 1,272,273 個的 91.7%）。剩餘的數據集包含一些嘈雜的标簽，因為更新打印參數時發現的響應時間較長，例如在圖像中出現明顯變化之前的流速。響應時間由命令執行延遲和機械延遲組成。第一個延遲主要通過僅在從打印機接收到參數更新命令的确認後捕獲圖像來處理。對于機械延遲，運行最壞情況實驗以确定将數據集中每個參數從最小值更改為最大值的響應時間。

發現更改主要在應用更新後的 6 秒内可見，因此，在參數更新後删除了 15 張圖像。這會留下 1,072,500 個樣本，其中系統已達到其所需狀态。由于打印機未正确執行 G 代碼命令或熱敏電阻等傳感器中的故障而導緻的不切實際的參數異常值被過濾掉，留下 991,103 個樣本。最後，RGB 通道的平均像素值小于 10 的非常暗的圖像被移除。這會産生一個包含 946,283 個标記圖像（原始圖像的 74.4%）的清潔數據集。然後将當前連續的參數值分箱為每個參數的三個類别：低、好和高。這些箱子的上限和下限是根據我們對 PLA 的 AM 經驗選擇的。這為神經網絡創建了可能的 81 種不同的類别組合來預測（四個參數的三個類别）。

我們使用數據增強來增加過濾數據集的大小和質量，從而避免過度拟合并提高模型的通用性57。所捕獲圖像中沉積材料的位置和形狀因打印部件的幾何形狀而有很大差異。此外，發現顔色、反射率和陰影都因相機位置、材料選擇和打印機設計而異。

為了模拟更廣泛的幾何形狀、相機位置和材料，數據集中的每個圖像都經過了廣泛的數據增強技術（圖 2e ））。首先，相機拍攝的全尺寸圖像在任一方向上随機旋轉最多 10 度。

然後以 0.1 的概率應用較小的透視變換。然後使用數據收集期間保存的噴嘴尖端坐标将圖像自動裁剪為聚焦在噴嘴尖端上的 320 × 320 像素方形區域。在裁剪之前應用旋轉和透視變換，實際上消除了裁剪區域中對填充的需要。然後将 320 × 320 圖像中面積在 0.9-1.0 之間的随機正方形部分裁剪并調整為 224 × 224 像素——深度神經網絡的輸入大小。

随後，可以以 0.5 的概率對圖像應用水平翻轉，然後對圖像的亮度、對比度、色調和飽和度應用 ±10% 的顔色抖動。與在打印機上重新定位相機和在數據集收集期間改變環境照明條件相比，這種合成數據增強的使用更節省時間和資源。它還允許在訓練期間在運行時應用功能增強的更小的原始數據集，而不是通過更多樣本來增加數據集大小。最後，使用過濾數據集中所有圖像的每個通道的像素均值和标準差對變換圖像中的通道進行歸一化。它還允許在訓練期間在運行時應用功能增強的較小原始數據集，而不是通過更多樣本來增加數據集大小。最後，使用每個通道的像素均值和過濾數據集中所有圖像的标準偏差将轉換圖像中的通道進行标準化。

圖2：人類解釋的多頭剩餘注意網絡結構，性能和可視化。

1A）。此外，對于每個圖像，這一直持續到打印結束，并産生一組圖像，每組圖像的打印參數都大不相同（圖 1）。通過對每個參數的均勻分布進行采樣，為每台打印機生成新的打印參數組合。新的參數組合通過網絡作為 G 代碼命令發送到每台打印機，随後由于刀具路徑轉換而以最小的延遲執行這些命令。

執行時，在參數更新過程再次發生之前，會收集另外 150 個标記圖像。這一直持續到打印結束，并産生一組圖像，每組圖像的打印參數都大不相同（圖 1）。通過對每個參數的均勻分布進行采樣，為每台打印機生成新的打印參數組合。新的參數組合通過網絡作為 G 代碼命令發送到每台打印機，随後由于刀具路徑轉換而以最小的延遲執行這些命令。執行時，在參數更新過程再次發生之前，會收集另外 150 個标記圖像。這一直持續到打印結束，并産生一組圖像，每組圖像的打印參數都大不相同（圖 1）。

在參數更新過程再次發生之前，又收集了 150 個标記圖像。這一直持續到打印結束，并産生一組圖像，每組圖像的打印參數都大不相同（圖 1）。在參數更新過程再次發生之前，又收集了 150 個标記圖像。這一直持續到打印結束，并産生一組圖像，每組圖像的打印參數都大不相同（圖 1）。 1d )。每個圖像的這種自動标記過程提供了比基于人工的标記更高的分辨率，因為沒有人工操作員可以以相同級别的準确度标記參數（例如，當前流速為 56%），并且沒有人可以用多個打印參數相互強烈相互作用的确切組合（例如，噴嘴過高，流速過低，溫度過低或這些的加權組合）。

由于采樣次優參數組合，一些打印變成完全失敗，在某個點之後提供的相關參數信息很少。這些圖像被手動删除，留下 1,166,552 個标記圖像（原始 1,272,273 個的 91.7%）。剩餘的數據集包含一些嘈雜的标簽，因為更新打印參數時發現的響應時間較長，例如在圖像中出現明顯變化之前的流速。響應時間由命令執行延遲和機械延遲組成。第一個延遲主要通過僅在從打印機接收到參數更新命令的确認後捕獲圖像來處理。

對于機械延遲，運行最壞情況實驗以确定将數據集中每個參數從最小值更改為最大值的響應時間。發現更改主要在應用更新後的 6 秒内可見，因此，在參數更新後删除了 15 張圖像。這會留下 1,072,500 個樣本，其中系統已達到其所需狀态。由于打印機未正确執行 G 代碼命令或熱敏電阻等傳感器中的故障而導緻的不切實際的參數異常值被過濾掉，留下 991,103 個樣本。最後，RGB 通道的平均像素值小于 10 的非常暗的圖像被移除。這會産生一個包含 946,283 個标記圖像（原始圖像的 74.4%）的清潔數據集。然後将當前連續的參數值分箱為每個參數的三個類别：低、好和高。這些箱子的上限和下限是根據我們對 PLA 的 AM 經驗選擇的。這為神經網絡創建了可能的 81 種不同的類别組合來預測（四個參數的三個類别）。

我們使用數據增強來增加過濾數據集的大小和質量，從而避免過度拟合并提高模型的通用性57。所捕獲圖像中沉積材料的位置和形狀因打印部件的幾何形狀而有很大差異。此外，發現顔色、反射率和陰影都因相機位置、材料選擇和打印機設計而異。

為了模拟更廣泛的幾何形狀、相機位置和材料，數據集中的每個圖像都經過了廣泛的數據增強技術（圖 2e ））。首先，相機拍攝的全尺寸圖像在任一方向上随機旋轉最多 10 度。

然後以 0.1 的概率應用較小的透視變換。然後使用數據收集期間保存的噴嘴尖端坐标将圖像自動裁剪為聚焦在噴嘴尖端上的 320 × 320 像素方形區域。在裁剪之前應用旋轉和透視變換，實際上消除了裁剪區域中對填充的需要。

然後将 320 × 320 圖像中面積在 0.9-1.0 之間的随機正方形部分裁剪并調整為 224 × 224 像素——深度神經網絡的輸入大小。随後，可以以 0.5 的概率對圖像應用水平翻轉，然後對圖像的亮度、對比度、色調和飽和度應用 ±10% 的顔色抖動。與在打印機上重新定位相機和在數據集收集期間改變環境照明條件相比，這種合成數據增強的使用更節省時間和資源。它還允許在訓練期間在運行時應用功能增強的更小的原始數據集，而不是通過更多樣本來增加數據集大小。

最後，使用過濾數據集中所有圖像的每個通道的像素均值和标準差對變換圖像中的通道進行歸一化。它還允許在訓練期間在運行時應用功能增強的更小的原始數據集，而不是通過更多樣本來增加數據集大小。最後，使用過濾數據集中所有圖像的每個通道的像素均值和标準差對變換圖像中的通道進行歸一化。它還允許在訓練期間在運行時應用功能增強的較小原始數據集，而不是通過更多樣本來增加數據集大小。最後，使用每個通道的像素均值和過濾數據集中所有圖像的标準偏差将轉換圖像中的通道進行标準化。

圖2：人類解釋的多頭剩餘注意網絡結構，性能和可視化。

a多頭網絡架構由一個共享的 Attention-56 網絡58主幹組成，其中包含堆疊的注意模塊和殘差塊，然後是扁平化層之後的四個獨立的全連接輸出頭，每個參數一個。這些頭中的每一個都将其相關參數分類為低、好或高。注意模塊由一個包含殘差塊的主幹分支和一個執行下采樣和上采樣的掩碼分支組成。b給定輸入圖像的每個模塊的示例注意掩碼。每個模塊輸出由許多通道的掩碼組成，這裡隻顯示一個樣本。掩碼顯示了網絡關注的區域，例如模塊 2 的輸出所示的最新擠壓。c在每個參數的測試數據集上經過三個階段的訓練後最終網絡的混淆矩陣。d訓練和驗證精度圖來自三個種子的網絡訓練，用指數移動平均值平滑，在三個數據集上：單層、完整和平衡。E示例數據增強在培訓期間用于使模型更普遍。

使用具有單個主幹和四個輸出頭的多頭深度殘差注意網絡58從輸入圖像準确預測擠壓過程中的當前打印參數，每個參數一個。在深度學習中，單标簽分類很常見，隻需要一個輸出頭就可以将輸入分類為N個可能的課程。然而，這項工作需要多标簽分類，以将輸入分類為四個标簽（流速、橫向速度、Z 偏移和熱端溫度）中的每一個的三個可能類别（低、好和高）之一。

為了實現這一點，多個輸出頭與共享主幹一起用于特征提取。共享主幹的權重在訓練的反向傳遞期間通過來自每個單獨輸出頭的損失的總和進行更新。這允許主幹學習自己對每個參數之間關系的解釋以及跨參數共享的某些特征的重要性。另一種方法是使用多個獨立的網絡，每個網絡都有一個輸出頭，并将問題視為四個獨立的單标簽分類問題。然而，這 孤立地查看每個參數，因此無法學習相互作用和關系。此外，它在訓練和實際部署期間需要更多的計算，因為必須獨立訓練四個獨立的網絡（而不是一個），然後這些網絡必須在操作期間并行運行。

在網絡中使用注意力可以減少為我們的應用程序實現相同性能所需的網絡參數數量，同時使網絡對噪聲标簽更加魯棒。注意力圖還可以幫助檢查錯誤和解釋預測。單個主幹允許為每個參數共享特征提取，因此與擁有單獨的網絡相比減少了推理時間。此外，它允許單個網絡對不同參數之間的相互作用進行建模。每個頭都有三個輸出神經元，用于将參數分類為低、好或高。使用這種結構，網絡可以在單個 RGB 輸入圖像的一次前向傳遞中同時預測流速、橫向速度、Z 偏移和熱端溫度的狀态（圖 2a ））。這種多頭結構和多個參數的知識可能會導緻預測單個參數的改進。有趣的是，發現僅訓練預測流量類别的網絡在分類流量方面的準确度低于訓練了解所有四個參數的網絡。但是，需要進一步的實驗來檢查此結果，以及是否可以使用其他上下文來提高網絡性能。

共享網絡主幹由三個注意力模塊和六個殘差塊組成，基于 Attention-56 模型58. 注意力模塊由兩個分支組成：面具和軀幹。主幹分支執行傳統網絡的特征處理，由殘差塊構成。掩碼分支先進行下采樣，然後再進行上采樣，以學習一個注意力掩碼，用于對模塊的輸出特征進行加權。這個掩碼不僅可以在前向傳遞期間用于推理，還可以在反向傳播期間作為後向傳遞的掩碼。這是選擇這種網絡架構的原因之一，因為人們相信這些掩碼分支可以使網絡對噪聲标簽更加健壯——我們的數據集包含由于參數變化和打印過程中的細微不一緻而包含的噪聲标簽。

在這些塊之後，網絡主幹被展平為一個完全連接的層，該層鍊接到單獨的四個頭中的每一個。頭部需要是網絡的單獨輸出，這項工作需要多标簽分類，因為每個完整預測都需要每個頭部始終具有單獨的單個預測。另一種方法是使用四個獨立的完整神經網絡；然而，除了無法對制造參數之間的關系進行建模之外，這将顯着增加計算和内存密集型。這項工作中使用的多頭共享主幹方法導緻主幹被用作特征提取器，以将輸入圖像的維度壓縮為從每個制造參數的損失總和中學習的潛在空間表示。然後可以認為每個頭部都充當從這個潛在空間到參數級别分類的映射。

為了可視化網絡在每個階段關注的特征，創建了每個模塊之後的注意力圖圖像（圖 2b）。在這裡，來自每個模塊的相同注意掩碼應用于 3 個輸入圖像中的每一個，其中不感興趣的區域變暗（注意：這些掩碼是說明性示例，因為每個模塊包含許多不同的注意圖）。該網絡似乎重點關注注意模塊1的示例蒙版輸出中的印刷區域，然後僅在模塊2的最新擠出量上，模塊3适用于先前的倒數，重點是除噴嘴尖端以外的所有内容。

發現将訓練過程分成三個獨立的階段并使用遷移學習是最穩健的。對于每個階段，訓練了三個不同的種子網絡。在第一階段，網絡在僅包含 100% 填充的第一層圖像的子數據集上進行訓練。這些打印中的每個參數的特征更加明顯，并且通過第一次訓練，使用這個子集，網絡可以更快地學習檢測重要特征。

發現這種分離加快了學習過程，因為單層的特征更易學習，随後可以在完整數據集上進行調整，從而使網絡可推廣到複雜的 3D 幾何圖形。最佳種子實現了 98.1% 的訓練準确率和 96.6% 的驗證準确率。然後，使用轉移學習方法來重新訓練所有3D幾何圖像的完整數據集中最佳種子的模型。這樣做了 3 次，最佳種子的訓練和驗證準确率分别為 91.1% 和 85.4%。神經網絡可以學習給出的數據中的固有偏見；因此，由于我們的完整數據集中的不平衡（例如，Z偏移量可能具有太高的值，因為噴嘴會崩潰到印刷床中），最終使用了傳輸學習。然而，這一次，隻有四個頭中每一個的最終全連接層在一個平衡的子數據集上進行了訓練，該平衡子數據集包含每個可能的 81 種組合的相同數量的樣本（四個參數，每個參數都可以低，好或高）。

網絡主鍊中的特征提取的重量被冷凍。這實現了89.2％的培訓準确性，驗證為90.2％。然後，在我們的測試集上測試了最終訓練的網絡，該網絡的總體準确性為84.3％。對于每個參數，我們測試集的分類精度為：流速 87.1%、橫向速度 86.4%、Z 偏移 85.5% 和熱端溫度 78.3%。有關培訓過程的更多信息可以在補充圖中找到。 S1。考慮到多樣化的多層測試集，這項任務不僅對于專業的人工操作員來說非常具有挑戰性，而且這種準确性也低估了網絡糾錯的功效。這些參數是相互依賴的，因此，對于許多錯誤類型，将有多種參數更改組合可以糾正它。例如，噴嘴遠離打印床的較高 Z 偏移很容易被誤認為具有低流速——兩者都顯示為處于擠出狀态——并且可以通過更改任一參數來糾正。但是，在訓練數據中的标簽中，這些參數組合中隻有一個将被視為“正确”的準确性計算。

為了測試網絡糾正打印錯誤和發現新材料最佳參數的能力，再次下載了随機3D模型，但這次是為了測試糾正。通過從均勻分布中随機采樣，以不同的比例、旋轉、填充密度、周長數和實體層數設置對每個三維模型進行切片。從給定的常用圖案列表中随機選擇填充圖案。生成的刀具路徑集随後被轉換為最大移動量為1mm使用自定義腳本在打印過程中顯著加快參數更改的固件響應時間，同時保持打印文件大小可管理，并防止由于打印機無法足夠快地讀取和處理G代碼行而引起的抖動。

在打印過程中，噴嘴尖端和材料沉積的圖像以2.5 Hz拍攝，并發送到本地服務器進行推理（圖 3A）。每個接收的圖像自動裁剪為320×320像素區域，重點是噴嘴尖端。用戶在設置時安裝相機時，需要一次指定噴嘴的像素坐标。此外，用戶可能需要根據相機位置，焦距和打印機噴嘴的大小來改變裁剪區域的大小。選擇噴嘴周圍的合适區域會影響網絡的性能，當在噴嘴尖端的任一側都可以看到約 5 個擠出寬度時，可以看到精度和響應時間之間的最佳平衡。

A反饋管道的六個主要步驟啟用了擠出過程圖像的在線參數更新。B表包含θ模式（模式阈值），L（序列長度），i min（插值最小值），A （最大增加），每個打印參數的A- （最大降低）以及可能的更新量。C簡單示例單層幾何形狀說明工具路徑分為相等的較小段。反饋過程中使用1毫米長度，以實現快速校正并減少響應時間。

然後，裁剪圖像調整為224×224像素，并在RGB通道之間進行歸一化。接下來，分類網絡将對此圖像作為輸入産生每個參數的預測（太高，太低，良好）。這些預測的參數存儲在每個參數的不同設置長度L的單獨列表中。如果經常做出特定的預測以至于它構成了大于或等于模式阈值的完整列表的比例（θ模式）），然後找到一種模式，并接受該預測。

如果找不到模式，則不會進行更新，并且打印參數被認為可以接受，就像在模式預測為“好”的情況下一樣。如果發現模式“太高”或“太低”，則使用模式值構成的列表長度的比例用于擴展調整到促進比例校正的參數。具體而言，将一維線性插值應用于映射參數阈值（θ模式）和1之間的範圍為新的最小值（I min）和1。然後使用插值值線性擴展最大更新量（A ）對于參數增加，一個-由于該參數的響應時間長，并且存在超調的安全風險，因此hotend列表長度和模式阈值特别保守。

一旦計算出打印參數的最終更新量，它們就會發送到附加到每個打印機的Raspberry Pi。Pi 檢索每個參數的當前值并創建一個 G 代碼命令來更新參數。然後，PI通過固定固件來尋找對命令執行的确認。固件執行所有命令後，PI将向服務器發送确認。當服務器收到确認所有更新已經執行的确認時，它将開始再次進行預測。等待對所有參數更新的确認對于停止因超越和推動目标引起的振蕩至關重要。

為了演示系統的校正能力，構建了一個實驗管道以獲取輸入STL文件，用良好的打印設置将其切成薄片，插入G代碼命令以将參數更改為差值，然後解析生成的G代碼并拆分。該模型分為1 mm部分（圖 4）。打印機的模型與訓練相同，但相機位置改變（相對于噴嘴略微旋轉和翻譯），新的0.4毫米噴嘴具有不同的外部幾何形狀，以及看不見的單層打印樣本。為了比較參數之間的響應，每個響應都使用相同的PLA絲線打印（圖 4A）。

這些單層印刷品被用作可解釋的基準測試，以測試各種打印機，設置和材料的每個參數的參數和組合。流速，z偏移和熱點溫度參數缺陷清晰可見，而橫向速度缺陷可以觀察到較暗的線路，在該線路上放慢了打印速度。發送命令（圖 4a中的黑色箭頭）和參數更新之間的延遲是可觀察到的，這表明等待打印機确認的重要性。在每種情況下，網絡與模式阈值結合使用，可以迅速恢複良好的打印參數（請參閱補充電影 S1）。

圖 4：打印機和原料無關的在線參數校正和發現。

使用訓練有素的多頭神經網絡對手動誘導的錯誤單參數進行快速糾正。用PLA原料在已知的打印機上打印，其未看到的0.4毫米噴嘴未在訓練數據中使用。B在線同時優化了看不見的熱塑性聚合物的多個不正确參數。證明對照管道對具有不同材料特性，顔色和初始條件的各種原料具有魯棒性。C很像人類操作員，該系統使用自我學習的參數關系進行糾正預測。可以通過減少Z偏移量和/或增加材料流量來固定高Z偏移量。d校正多個不正确的打印參數引入了中印刷。兩輛車都是在相同的條件下打印的，唯一的區别是校正。e以錯誤的參數組合開始更正打印。所有六個跨度都均具有相同的條件。

盡管僅使用擠出熱塑性 PLA 進行了培訓，但控制管道可推廣到各種材料、顔色和設置。圖 4B顯示了四種不同的熱塑料的在線校正，并在類似的可解釋的單層基準測試中，用随機多個不正确打印參數的不同組合與圖 4A進行了校正。在每種情況下，網絡都成功更新了多個參數，從而導緻良好的擠壓（請參閱補充電影 S2）。由于初始條件差，TPU 和碳纖維填充樣品沒有印刷周邊。這不僅對自動參數發現有用，幫助用戶通過快速獲得最佳參數組合來調整他們的打印機以适應新材料，而且它還表明控制系統可以通過保存初始刀具路徑未能遵守的打印失敗來提高生産力床。

由于在一個網絡結構中擁有所有參數預測，經過訓練的模型可以學習多個參數之間的相互作用，并可以像人類操作員一樣為不正确的參數提供創造性的解決方案。我們使用控制循環設置打印了一個示例，但沒有進行在線更正。該樣品包含一個具有高Z偏移的區域。高Z偏移導緻擠出材料的分離路徑 - 低流量可能會産生相同的結果。圖 4c表明網絡确定增加流速并降低Z的流量将導緻良好的擠壓。由于經過訓練的模型可以找到多種方法來解決相同的問題，因此它可以對單個參數的錯誤預測更加穩健，并通過組合多個參數的更新來實現更快的反饋。預測圖還展示了網絡注意到參數現在良好的速度，這對于确保控制系統在進行在線校正時不會超調至關重要。

圖 4D使用與訓練（Creality CR-20 Pro）在看不見的Rook幾何形狀上使用相同的打印機模型應用控制管道，以證明我們的方法可以用于完整3D幾何形狀的生産環境中。在打印的一半中引入了多個随機不正确的打印參數，特别是流速非常高，橫向速度和熱端溫度以及低Z偏移。ROOK未經校正打印出了巨大的失敗，而ROOK則成功地完成了帶有相同條件的相同條件的ROOK。圖 4e展示了相同 3D 扳手幾何形狀的六個副本，每個副本都以錯誤打印參數的相同組合開始：低流速和橫向速度、高 Z 偏移和良好的熱端溫度。

在六個跨度中，三個未經校正打印，導緻一場完全失敗，這是由于印刷床的分離而導緻的，其餘兩個則是非常差的表面表面。這些錯誤是由于次優印刷參數引起的初始層較差。用校正的三個印刷都成功完成，并表現出相同的改進的表面光潔度，尤其是在初始層上。應該注意的是，這些校正後的印刷品與完美印刷的零件不匹配。存在瑕疵，直到應用了所有必要的校正為止，因此，一些初始層的開始參數不良。盡管很少見，但是當不需要導緻缺陷時，也可以進行校正。

為了展示系統的通用性，在看不見的打印機（Lulzbot TAZ 6）上附上了不同的相機和鏡頭，其形狀不同的噴嘴和噴嘴寬度為0.6 mm，而不是訓練中使用的0.4 mm（圖5A）（圖 5A） . 該打印機使用擠出系統，該系統将直徑2.85毫米的絲絲作為訓練打印機中使用的1.75毫米的輸入。圖 5b顯示适用于看不見的主教幾何形狀的相同控制系統。

随機不正确的打印參數是在印刷品的早期引入的，特别是在第7層。這些不正确的參數是較低的橫向速度和高流速，Z偏移和熱電器溫度。未經校正的錯誤打印的錯誤主教失敗了，而主教則在啟用控制管道的情況下以完全相同的條件打印了，并更加詳細地完成了成功完成。單層基準打印均已完成使用白色PLA引入的每個單獨的錯誤參數（圖 5C ））。這些表明，多頭神經網絡和控制管道将跨熔融沉積建模打印機校正參數。這些樣品中印刷不良區域的尺寸似乎比圖 4A印刷的區域大，因為Lulzbot TAZ上的較大噴嘴六個線導緻每條線的擠壓寬度要大得多。打印機之間的行數大緻相同。

圖5：跨設置和擠出過程的方法通用。

a帶有 0.6 毫米内徑噴嘴 (Lulzbot Taz 6) 的經過測試的看不見的 3D 打印機的照片。将不同的攝像頭模型（Raspberry Pi攝像頭V1）和鏡頭與訓練數據的收集以及有關材料沉積的新相機位置進行了比較。b介紹了帶有錯誤參數的主教國際象棋，并啟用了帶有校正的相同錯誤打印。兩者均在看不見的Lulzbot TAZ 6設置上使用2.85毫米PLA打印。c使用訓練有素的多頭神經網絡快速校正人工誘導的錯誤單個參數。在看不見的打印機上用白色PLA原料印刷，并在訓練數據中未使用的0.6毫米噴嘴。d基于注射器的直接墨水寫作打印機（DIW）從Creality Ender 3 Pro進行了修改。使用不同的攝像頭模型（Raspberry Pi攝像頭V1）和鏡頭以及不同的攝像頭位置。E自動校正和參數發現顯示了具有0.21毫米噴嘴（27口徑）的PDM，以及蛋黃醬和番茄醬，帶有0.84毫米噴嘴（18口徑）。

控制管道在直接墨水書寫裝置上進一步測試，使用帶有螺紋杆的步進電機來移動注射器中的柱塞（圖 5d）。這使用了不同的相機型号和鏡頭，安裝在與噴嘴不同的角度和距離處，使用透明和反射玻璃打印床，而不是在熱塑性塑料測試期間使用的黑色床。通過這種設置，PDMS、蛋黃醬和番茄醬使用各種噴嘴進行打印——PDMS 為 0.21 毫米，調味品為 0.84 毫米（圖 5e）。所有樣品均在室溫下打印，未進行熱端校正。對于PDMS打印，網絡僅糾正流量。圖 5e表明，對于PDM，網絡學會通過升高施加到注射器的壓力來增加流速。一旦達到所需的壓力，網絡就會降低流速以停止擠壓。

但是，在長打印期間，由于注射器中的壓力過大，流速有時會過沖，尤其是當網絡沒有足夠快地降低流速時。在這種特定設置中，由于粘性材料和小型噴嘴直徑需要高壓力，在這種特定的設置中平衡這種壓力尤其具有挑戰性，從而在柱塞運動和擠出之間造成了時間差距。當打印粘性較低的材料時，這種過沖和壓力延遲問題不大，尤其是在噴嘴直徑較大的情況下。對于蛋黃醬和番茄醬的示例，網絡主要調整了流速和Z偏移量。我們發現兩種調味品都傾向于過度擠出，并且網絡通常會降低流速，并且對于第一層，降低了Z偏移量。在打印多層結構時，網絡傾向于在每一層中提高Z偏移量，并降低流速以阻止噴嘴尖端在上一層中浸沒。

尋求模型為何做出某些決定的可能解釋是有幫助的，尤其是在生産中以安全至關重要的應用中部署深層神經網絡時。引導反向傳播59和梯度加權類激活映射 (GradCAM) 60兩種流行的可視化方法可以幫助用戶了解神經網絡為何做出預測. 前者有助于展示網絡在做出預測方面學到的更精細的分辨率特征，後者提供了一個更粗糙的定位，顯示了圖像中重要的區域（這可以将其視為事後注意事後的注意力）。對于兩種方法，提供了四個參數中的每個參數的目标類别（低，良好和高），以确定哪些功能或區域對于該類别特别重要。最重要的是，開發了一種方法來在整個網絡中分别應用每個參數的技術，從而使我們能夠為輸入圖像生成多達12個定制的可視化（四個參數的三個類别，例如低流量，例如低流速，高橫向速度，良好的 Z 偏移）。

錯誤參數的多種組合可能會導緻擠出材料的分離路徑（在擠出下）或材料的重疊路徑（擠出）。引導反向傳播用于嘗試确定網絡是否使用跨參數的相似特征來檢測這些物理擠壓特性。圖 6a顯示了不同參數引起的代表性示例圖像，良好和過度擠出。看來相同擠出分類的參數之間共享了類似的特征：擠出的分離路徑，良好擠出的當前路徑的輪廓以及在噴嘴周圍進行過度擠出。

圖 6：對每個參數使用單獨的顯着圖的視覺解釋可能有助于驗證網絡的穩健性。

a可以通過多個不正确的參數來實現欠、良好或過度擠壓。指導反向傳播59用于突出用于分類圖像中的重要特征。代表性的示例未見圖像表明，網絡在參數上使用相似的功能來識别相同的物理屬性。b梯度加權類激活映射 (GradCAM) 60顯示，跨參數和看不見的輸入，網絡的早期階段區分沉積材料和打印床。C GARGCAM應用于最終階段，表明網絡整體集中于跨參數和看不見的輸入的噴嘴尖端。d引導反向傳播和 GradCAM 在不同階段顯示的趨勢也适用于不同的看不見的擠壓方法，例如直接墨水書寫。

GradCAM 分别應用于每個參數的共享網絡主幹的每一層。我們在圖 6 b、c中展示了來自第一層和最後一層的可視化（分别為剩餘塊 1 和 6）。網絡的早期階段似乎可以檢測到圖像中的大結構特征，例如區分沉積材料和打印床。到最後一層，網絡主要關注噴嘴的最新擠出，而與參數或目标類别無關。這是期望的，因為對于快速響應時間和校正，我們希望網絡使用來自最近沉積材料的信息進行預測。在圖 6d，示例可視化顯示來自直接墨水書寫測試的圖像。這些圖像表明，經過訓練的網絡可以在預測期間的每個階段使用與熱塑性塑料預測類似的特征。進一步的可視化可以在補充圖 S2和補充電影 S3中找到。

我們證明，使用根據最佳打印參數的偏差标記的圖像訓練多頭神經網絡可以實現穩健且可通用的實時擠壓 AM 錯誤檢測和快速校正。數據采集和标記的自動化允許生成足夠大和多樣化的基于訓練圖像的數據集，以實現錯誤檢測和糾正，該錯誤檢測和糾正适用于現實的 2D 和 3D 幾何形狀、材料、打印機、刀具路徑甚至擠壓方法。

深度多頭神經網絡能夠同時高精度地預測打印過程中噴嘴圖像的四個關鍵打印參數：流速、橫向速度、Z 偏移和熱端溫度。研究發現，這種額外的背景和對多個參數的了解甚至可能導緻預測單個參數的改進——盡管需要進一步的研究來支持這一發現。與人類一樣，該系統能夠創造性地針對錯誤提出多種解決方案，甚至可以發現新的參數組合并學習如何打印新材料。然而，與人類不同的是，該系統連續運行并立即進行修正。除了這個網絡，我們還展示了反饋控制回路中的許多進步，包括比例參數更新、刀具路徑分割和優化的預測阈值等新功能，與以前的工作相比，它們在校正速度和響應時間方面提供了一個數量級的改進。

盡管通過更快的響應時間對更多參數的全面控制來顯着提高AM反饋的能力，但這項工作也降低了現有方法的成本和複雜性。使用現成的攝像機，小型單闆計算機（例如Raspberry Pi）和網絡的使用，可以輕松地将系統添加到新的和現有的打印機中。該系統擴展并插入流行的軟件和固件軟件包，這意味着現有的用戶工作流程受到最小的影響。此外，完全内置的網絡可以使每張添加的打印機都可以增加可用的培訓數據，并允許将系統部署在僅需要Internet連接的更遙遠的環境中。

該方法有改進的餘地。例如，在更廣泛的打印機和材料上測試網絡并将收集到的數據添加到訓練數據集中可以使系統更具通用性和魯棒性。低 Z 偏移值的更多數據也可能是有益的，因為值的微小差異會對打印質量産生很大影響。同樣，在撞到床之前，低z偏移量的值較小，可能會接管高率，這會導緻數據集中的偏差，因為高分類中存在更多的值。另外，我們認為Z偏移中的小動作可能是當前數據集的主要弱點，并改善了相機焦點，分辨率和對定位的關注将大大改善大型AM數據集的下一個疊代。同樣重要的是要提高偏見在給定數據集的訓練模型的性能中所起的作用。通過使用更大，更平衡的數據集，并在分類的更詳細的水平上使用相等數量的樣本來增強未來的工作。

例如，目前，在數據集中，可能存在某些參數組合，這些參數僅在特定的打印中或具有單一顔色的細絲中出現，因此網絡已将這些不正确的特征作為映射學習。此外，雖然 3D 模型、切片設置和參數值是随機采樣的，但仍然存在一些偏差，包括在給定範圍内、額外的切片設置和原料選擇。通過使用更大，更平衡的數據集，并在分類的更詳細的水平上使用相等數量的樣本來增強未來的工作。

例如，目前，在數據集中，可能存在某些參數組合，這些組合僅在特定打印期間出現或以單一顔色的燈絲出現，因此網絡将這些不正确的特征學習為映射。此外，盡管已經對3D模型，切片設置和參數值進行了随機采樣，但仍然存在一些偏見，包括在給定範圍内，附加的切片設置和原料選擇。通過使用更大、更平衡的數據集，在更細粒度的分類級别上使用相同數量的樣本，未來的工作将得到加強。例如，目前，在數據集中，可能存在某些參數組合，這些組合僅在特定打印期間出現或以單一顔色的燈絲出現，因此網絡将這些不正确的特征學習為映射。

此外，雖然 3D 模型、切片設置和參數值是随機采樣的，但仍然存在一些偏差，包括在給定範圍内、額外的切片設置和原料選擇。因此網絡将這些不正确的特征學習為映射。此外，雖然 3D 模型、切片設置和參數值是随機采樣的，但仍然存在一些偏差，包括在給定範圍内、額外的切片設置和原料選擇。因此，網絡已經學習了這些不正确的特征作為映射。此外，雖然 3D 模型、切片設置和參數值是随機采樣的，但仍然存在一些偏差，包括在給定範圍内、額外的切片設置和原料選擇。

通過調整在線校正反饋管道中使用的許多變量以及采樣率和工具路徑拆分長度，可以進一步提高我們的方法論的有效性。通過更廣泛和更深入地搜索值進行更廣泛的測試可能會提高性能。這些校正變量的更好值将有助于減少在反饋期間校正振蕩的機會，這是我們通過改善列表的預測或減少響應時間來進行測試所經曆的。如果網絡仍然可以看到以前的壞區域并超出其校正或神經網絡的一系列錯誤預測，則可能會發生參數振蕩。

此外，我們意識到，雖然這種方法有助于解決許多常見的基于擠壓的打印錯誤，但仍然存在許多錯誤。由跳步、皮帶打滑或外部幹擾引起的打印機機械故障仍未解決，為定位錯誤添加閉環控制将增加所涵蓋的錯誤模式的數量。在某些情況下可以檢測到由錯誤的傳感器或表現不佳的電源引起的電氣問題，但不能自主糾正。此外，諸如開裂，經線變形和床粘附問題等大錯誤并未完全解決。盡管打印參數的精确實時控制可以幫助減少這些錯誤的可能性，但 由于其本地化的監視方法，它一旦形成了許多人，就無法檢測或解決其中許多。将這種本地成像與全球攝像頭系統結合起來可能會在檢測更多錯誤時産生重大改進，并可以在本地擠出問題和全球規模的故障之間提供聯系。

我們用來檢查網絡如何做出決策的基于梯度的顯着性圖表明，該網絡學會着眼于做出預測時最新的擠壓，這有助于快速響應錯誤。這與網絡能夠準确預測不同幾何，材料和設置的不同參數的能力表明，網絡确定了與擠出過程通用的視覺特征，例如擠出的形狀。本文開發的方法在很大程度上與傳感器及其應用的制造過程無關。

這指出了未來調查的一系列領域。例如，将新的紅外或其他傳感器集成到系統中或将其應用于進一步挑戰制造過程61, 62 . 考慮到這些工藝的複雜性和對質量保證的需求，将其應用于金屬增材制造方法尤其令人興奮63。迄今為止，光學技術是金屬增材制造中最常用的方法，用于監測粉末床表面和熔池64、65等特征。這些将适合與我們的方法一起使用，并且可能對難以使用的金屬增材制造特别有益66。這可以通過在特定設置上微調模型來幫助，在小型、專業數據集（具有均勻良好的照明）上進行遷移學習，以提高已知環境中的性能。

一個由八台 FDM 3D 打印機組成的網絡用于數據收集。選擇 Creality CR-20 Pro 打印機是因為它們成本低、預裝引導加載程序并包含 Z 探針。每台打印機的固件都刷新到 Marlin 1.1.9 以确保啟用熱失控保護。然後，每台打印機都配備了 Raspberry Pi 4 Model B 作為網絡網關，用于通過串行向打印機發送/接收數據。Pi 運行基于 Raspbian 的 Linux 發行版和帶有定制開發插件的 OctoPrint 服務器。一個低成本的消費類 USB 網絡攝像頭 (Logitech C270) 連接到 Pi 以拍攝快照。使用單個3D打印零件将相機朝向噴嘴尖端安裝。這些組件可以輕松地以低成本安裝到新的和現有的打印機上；協助平衡性和可部署性。

用于直接墨水書寫的打印機是經過改進的 Creality Ender 3 Pro。擠出機設置是在内部設計和内部設計的，并使用了帶有Luer鎖定噴嘴的步進電動機驅動的注射器。該打印機配備了 Raspberry Pi 4 型号、Z 探頭和 Raspberry Pi Camera v1（帶變焦鏡頭）。固件是 Marlin 2.0 的配置版本。對于進一步的實驗，使用了固件刷新到 Marlin 1.1.9 的 Lulzbot Taz 6。默認噴嘴更換為 E3D 0.6 毫米内徑噴嘴。

使用Python腳本從Thingiverse 3D模型存儲庫中下載STL文件。該工具允許通過多種途徑輕松搜索存儲庫中的模型，例如關鍵字、流行度、時間、創建者和許可證。使用此工具，選擇并下載了适當的許可證的流行文件（增加其可打印的可能性）。此外，手動将某些标準的3D打印基準文件手動添加到此STL中。

為了切片部件創建各種刀具路徑，STL是随機旋轉的（從0°到360°的均勻分布采樣角度），然後縮放在構建闆上（從0.8到2- 2--均勻分布采樣的比例因子，尺度因子取樣到2-2-- 2--對于某些已經很大的型号，縮放因子被剪切以減少打印時間）。然後，從 2 到 4 的均勻分布中随機抽取固體頂層和底層的數量以及填充圖案、填充密度（0% 到 40%）和外周邊牆的數量（2 到 4）。使用了以下填充圖案：直線，網格，三角形，星星，立方，線，同心，蜂窩，3D蜂窩，甲狀腺，能力，希爾伯特曲線，Archimedean Chords和octagram spiral。

在打印過程中，以面向噴嘴攝像頭的1280×720像素分辨率以2.5 Hz的采樣速率捕獲圖像。每個圖像在此時間點上标有實際和目标熱台和床溫度，以及打印機的當前相對流速以及Z偏移（以毫米為單位）的側向速度（兩個百分比）。

收集并存儲了150個标記的圖像（打印的1分鐘）後，新的流速，橫向速度，Z偏移和熱端目标溫度值是從以下各相流量範圍的均勻分布中随機采樣的：20至 200%，橫向速度：20 至 200%，Z 偏移：-0.08 至 0.32 mm，熱端：180 至 230 °C。發現在訓練集中需要添加一些較高級别的額外流量，因為它們足夠分布，因此受過訓練的模型會錯誤地預測分類。這對于其他參數不是必需的。采樣後，新值将發送到打印機。打印機開始捕獲此新參數組合的另外150張圖像。這個過程可以在我們使用的所有八個打印機上并行進行，每個打印機都使用不同的原料顔色，有助于覆蓋大型參數空間。

選擇随機參數值選擇在系統參數選擇上選擇，以在捕獲的圖像中提供不同的周圍環境。具體而言，通過選擇随機方法，圖像的外部區域可以包含擠壓以前的參數組合，這可能有助于訓練網絡在噴嘴尖端周圍使用局部功能。相反，系統的方法可以将模式引入以前存放材料的參數級别，可以通過網絡降低用于預測的數據的局部性，并在未見的情況下在線打印過程中引入弱點，而周圍環境将不會是系統的。并且可能不完美。

為了減少對印刷過程中的幹預需求和輔助連續打印的需求，已經開發了一種新的簡單方法，用于删除完整的印刷品。之前已經實施了許多方法來在完成後自動移除部件67 , 68; 然而，以前的實現要麼需要大量的硬件修改，要麼成本高昂，要麼隻能移除相對有限範圍的部件。我們的床拆卸系統不需要其他電子設備，電動機或複雜的機械零件。

建議的解決方案可以改裝到任何擠出打印機，并且主要由可以由相關打印機生産的打印部件組成。已經移動的打印頭移動和碼頭，上面有一個位于構建平台後部的刮刀。随後，使用打印機的内部電動機将打印頭和刮闆移動到構建表面上，卸下印刷對象。移除後，打印頭将刮刀返回其原始位置并取消停靠（請參閱補充電影 S4）。為了确保刮闆始終保持在相同的位置，将帶有磁鐵的刮刀挂在打印床上以将刮闆固定在适當的位置，直到下一個物體需要去除。有關該系統的更多詳細信息，請參見 補充信息中的補充圖 S3和補充說明 1，以及包含可修改 CAD STEP 文件、用于打印的 STL 文件和用于部件移除的示例 G 代碼腳本的 GitHub 存儲庫。

為了訓練網絡，我們确定每個頭部處的跨透鏡損失，然後在反向傳播之前将這些損失總和在一起。這導緻網絡的共享主幹被更新以适應每個頭的損失，每個頭的全連接層僅由該頭的損失更新。在三個訓練階段中的每個階段中，選擇了一系列值并選擇損失下降大量的學習率，從而在3個訓練階段中選擇了初始學習率。

每個階段的學習率可以在 補充信息中看到。選擇正确的學習率至關重要——學習率高會導緻注意力圖差，而學習率過低則需要更長的時間來訓練或陷入早期的局部最小值。ADAMW優化器在訓練期間使用70、71，降低了高原學習率調度程序，以将學習率降低10倍，而連續3個時期并未将損失提高超過1％。訓練期間的學習率圖可以在 補充信息中找到。培訓，驗證和測試分别為0.7、0.2和0.1，批次大小分别為32。訓練的三個階段分别接受了50、65和10個時期的培訓。每個階段用三個不同的種子訓練了三次。在轉移學習期間，選擇

了上一階段的最佳種子作為繼續訓練的基礎。

為了确定這種多階段訓練的重要性和注意力的使用，使用相同配置對四個不同的重新編織47進行了培訓，除非僅具有單個種子和完整數據集中的一個階段。表1中可以看到測試準确 度以及我們選擇的使用三個階段訓練的注意力網絡的準确度。發現具有這些添加的較大模型實際上下降了測試準确性。在其他數據集上的每個模型上進行進一步的預測可能會提高整個電池的準确性。

在單個多頭網絡中使用多個參數來提供額外的上下文可能會比在單獨的網絡中訓練單個參數提高性能。經過50個訓練時期，具有單個頭部輸出的RESNET18模型可預測流速的精度為77.5％。在 50 個 epoch 的訓練後，具有多個頭（四個參數中的一個）的相同模型在預測流速時達到了 82.1% 的最終準确率。

最終模型在兩個 Nvidia Quadro RTX 5000 GPU 上使用半精度浮點格式 (FP16) 進行訓練，這些 GPU 具有 i9-9900K CPU（八核和 16 線程）和 64GB 的 RAM。此設置也用于在線校正。一些原型設計工作在配備 Nvidia Tesla P100 GPU 的 HPC GPU 集群上進行。神經網絡是使用 PyTorch v1.7.1 、Torchvision v0.8.2 、Tensorboard v2.4.1 。數據分析使用 Python v3.6.9 、NumPy v1.19.5 、Pandas v1.1.5 、SciPy v1.5.4、Seaborn v0.11.1 、Matplotlib v3.3.3 ，jupyter v1.0.0，jupyterlab v.2.2.2.9。使用Blask v1.1.1開發數據收集和參數校正服務器v1.6.1 ，馬林魚 1.1.9 。切片和打印準備使用 PrusaSlicer v2.3.3 和 Simplify3D v4.1.2 。