
Bu araştırma, denizaltı petrol ve doğal gaz boru hatlarında bakım ve acil onarım amacıyla geliştirilen boru hattı akıllı tıkama robotunun ankraj ünitesini hem mekanik yapı hem de adaptif kontrol açısından ele almaktadır. Araştırmacılar, sınırlı boru içi hacimde slip adı verilen ankraj elemanlarının radyal olarak açılmasını sağlamak üzere vida tahriki, eksantrik krank-kızak mekanizması ve paralelkenar bağlantısını birleştiren kompozit bir mekanizma tasarlamıştır. Kontrol tarafında ise sabit PID parametrelerinin değişken yük ve sürtünme koşullarına uyum sağlayamaması problemine karşı Deep Deterministic Policy Gradient (DDPG) algoritması kullanılmış; \(K_p\) ve \(K_i\) parametreleri çevrimiçi olarak uyarlanmış, mekanik sınırları aşan parametreleri cezalandıran yeni bir ödül fonksiyonu ve çevrimdışı ön eğitim ile çevrimiçi ince ayarı birleştiren iki aşamalı eğitim stratejisi geliştirilmiştir.
Çalışmanın mekanik bölümünde ankraj mekanizmasının hareket modeli Lagrange yöntemiyle oluşturulmuş ve slip hareketi fiziksel laboratuvar düzeneğinde altı farklı itme kuvveti düzeyinde sınanmıştır. Kaynak, 10–15 kN aralığını en uygun ankraj kuvveti bölgesi olarak tanımlamakta ve bu aralıkta slip yer değiştirmesinin yaklaşık 53,1–53,5 mm civarında kaldığını bildirmektedir. Ancak ilgili Tablo 3'te teorik değer, deneysel değer, sapma işareti ve hedef 53,4 mm arasındaki bazı sayısal ilişkiler kendi içinde tutarlı değildir. Bu nedenle söz konusu deney mekanik modelin genel eğilimini destekleyen bir ön doğrulama olarak değerlendirilmelidir; tablodaki işaretli hata değerlerinden yeni veya düzeltilmiş sonuç üretilmemelidir.
Adaptif kontrol bölümündeki temel sonuçlar MATLAB/Simulink tabanlı simülasyondan elde edilmiştir. Kaynağın Tablo 9'una göre bozucu etki bulunmayan koşulda klasik PID kontrolünde %25 aşım ve 5,0 mm yer değiştirme hatası görülürken standart DDPG'de değerler %12 ve 2,0 mm, geliştirilmiş DDPG'de ise %3 ve 0,3 mm'dir. Bozucu etki uygulandığında PID %28 aşım ve 7,0 mm hata, standart DDPG %15 ve 3,0 mm, geliştirilmiş DDPG ise %4 ve 0,5 mm sonuç vermiştir. Çalışma böylece önerilen kontrolün kendi simülasyon modeli içinde hem başlangıç tepkisi hem de bozucu yük sonrasındaki toparlanma bakımından diğer iki yöntemden daha iyi performans verdiğini göstermektedir.
Bununla birlikte geliştirilmiş DDPG-PID kontrolü gerçek boru hattında veya tam ölçekli tıkama robotunda doğrulanmamıştır. Fiziksel deney yalnız ankraj mekanizmasının slip yer değiştirme davranışına yönelik sınırlı bir test düzeneğidir. Actor–Critic kontrol performansı, mekanik kısıt cezası, TD3 karşılaştırması ve Tablo 9'daki hata/aşım sonuçları simülasyon verilerine dayanmaktadır. Bu nedenle çalışma gerçek denizaltı akıntısı, gerçek boru yüzeyi sürtünmesi, haberleşme gecikmesi, sensör hataları ve tam ölçekli basınç altında aynı performansın elde edileceğini kanıtlamamaktadır.
Türkiye açısından araştırma; petrol ve doğal gaz boru hatlarında içten çalışan bakım robotları, vana gerektirmeyen geçici izolasyon sistemleri ve dar hacimli elektromekanik ankraj mekanizmalarının geliştirilmesi açısından yöntemsel bir örnek sunmaktadır. Ancak tasarımdaki 285 mm boru iç yarıçapı, mekanizma ölçüleri, itme kuvvetleri ve kontrol parametreleri doğrudan farklı bir yerli boru hattı robotuna aktarılmamalıdır. Boru çapı, iç yüzey durumu, akış kuvvetleri, basınç, motor ve mekanizma geometrisi değiştiğinde hem yapısal boyutlandırmanın hem de kontrol modelinin yeniden doğrulanması gerekir.
Boru hattı akıllı tıkama robotu hangi problemi çözmeye çalışıyor?
Çalışmada ele alınan Pipeline Intelligent Plugging Robot (PIPR), özellikle denizaltı boru hatlarında bakım ve acil onarım sırasında boru cidarında yeni bir delik açmadan belirli bir kesitin izole edilmesini amaçlayan bir robotik sistemdir. Geleneksel delik açmalı tıkama yöntemlerinin boru üzerinde kalıcı bağlantı elemanları bırakabilmesi ve operasyon verimliliğini azaltabilmesi araştırmanın motivasyonları arasındadır.
Robot iki temel işlevi fiziksel olarak ayrılmış modüllerle yerine getirir:
- Ankraj ünitesi: robotu hedef konumda boru cidarına sürtünmeyle sabitler.
- Tıkama ünitesi: ana sızdırmazlık elemanını radyal olarak genişleterek boru kesitinde basınç taşıyan bir izolasyon oluşturmayı hedefler.
Bu fonksiyonel ayrım, bir modülün mekanik yük veya hareketinin diğer modülün görevini mümkün olduğunca az etkilemesini amaçlamaktadır.
Robotun çalışma çevrimi nasıl ilerliyor?
Robot boru hattına ilk girdiğinde ankraj slipleri ve ana sızdırmazlık elemanı gövde içinde geri çekilmiş durumdadır. Robotun hareketi boru içindeki akışkanın oluşturduğu diferansiyel basınçla sağlanmaktadır.
Hedef konuma ulaşıldığında dışarıdan gelen yüksek frekanslı konumlandırma sinyali operasyon durumunu başlatır. Ankraj motoru vida mekanizmasını döndürür, bağlantı elemanları slipleri radyal olarak boru cidarına açar ve sürtünmeli kendinden kilitleme etkisiyle robot sabitlenir. Aynı zamanda tıkama modülü sızdırmazlık elemanını sıkıştırarak boru cidarına doğru genişletir.
İşlem tamamlandığında sızdırmazlık elemanı ve slipler geri çekilir. Robot yeniden akışa uygun kompakt biçimine döner ve ters diferansiyel basınç kullanılarak çıkış noktasına taşınır.
Ankraj mekanizmasında neden üç mekanizma birleştirilmiştir?
Araştırmacılar dar boru içinde yüksek radyal ankraj kuvveti üretirken sliplerin mümkün olduğunca yalnız radyal yönde hareket etmesini istemektedir. Bunun için üç mekanik işlev bir zincir hâlinde birleştirilmiştir:
- Vida–somun sistemi motorun dönmesini eksenel doğrusal harekete dönüştürür.
- Eksantrik krank–kızak yapısı somunun eksenel hareketini bağlantı sistemine aktarır.
- Paralelkenar mekanizma sliplerin yönelimini koruyarak radyal öteleme hareketini destekler.
Ankraj ünitesinde boru çevresine eşit aralıklarla dağıtılmış altı slip grubu bulunmaktadır. Bu simetrik yerleşim, ankraj kuvvetinin boru çevresine daha dengeli aktarılmasını amaçlamaktadır.
Ana mekanik boyutlar nelerdir?
| Parametre | Kaynakta verilen değer |
|---|---|
| Boru iç duvar yarıçapı | 285 mm |
| Somun–vida bağıl hareketi | 90 mm |
| Yer değiştirme hareket süresi | 5 s |
| Somun ile robot gövdesi arasındaki başlangıç mesafesi | ≥20 mm |
| Slip montaj delikleri arası mesafe | 130 mm |
| Somun montaj deliğinin vida eksenine minimum dik uzaklığı | 55 mm |
| Robot iç duvar montaj deliği ile slip montaj deliği merkez mesafesi | 92 mm |
Çalışma konumunda slip üzerindeki montaj deliğinin ekseni boru iç duvarından 75 mm uzaktadır. Bağlantı mekanizmasının çubuk uzunlukları kaynakta 92, 130, 130, 155 ve 155 mm olarak belirlenmiştir.
Vida sistemi neden kendinden kilitli tasarlanmıştır?
Ankraj sisteminin boru duvarına bastıktan sonra harici yük altında istemeden geri açılmaması için trapez vida çiftinin kendinden kilitleme koşulu kontrol edilmiştir.
Vida çiftindeki eksenel yük kaynakta:
\[ F=KF_X+f(F_Z+W) \]
ile ifade edilmektedir. Burada \(K=1{,}15\) deneysel katsayı, \(f=0{,}15\) kayma sürtünme katsayısı, \(F_X=10\) N hareketli parçaların atalet kuvveti, \(F_Z=920\) N normal kuvvet ve \(W=80\) N somun ağırlığıdır.
Nominal vida çapı 16 mm, hatve 4 mm ve hatve çapı 14 mm seçilmiştir.
Kaynakta vida helis açısı:
\[ \lambda= \tan^{-1}\left(\frac{4}{14\pi}\right) = 5{,}20^\circ \]
ve eşdeğer sürtünme açısı:
\[ \rho_v= \tan^{-1} \left( \frac{0{,}15}{\cos15^\circ} \right) = 8{,}83^\circ \]
olarak hesaplanmaktadır. \(\lambda \leq \rho_v\) olduğu için araştırmacılar vida çiftinin kendinden kilitleme koşulunu karşıladığı sonucuna ulaşmıştır.
Vida çiftinin hesaplanan aktarım verimi:
\[ \eta= \frac{\tan\lambda} {\tan(\lambda+\rho_v)} \times100\% = 36{,}42\% \]
olarak verilmiştir.
Vida burkulma ve motor gücü açısından yeterli mi?
Kaynakta vida için kritik burkulma yükü 24.525,16 N olarak hesaplanmış ve kritik yükün çalışma yüküne oranı 151,86 bulunmuştur. Bu değer kullanılan minimum güvenlik koşulunun oldukça üzerindedir.
Somunun 90 mm hareketi 5 saniyede tamamlaması hedeflenmiştir. Ortalama doğrusal hız 1,08 m/dak, hedef vida hızı 270 r/min ve açısal hız \(9\pi\) rad/s olarak hesaplanmıştır.
Toplam kaplin torku:
\[ T_Z= 2(T_1+T_2) = 0{,}788\ \mathrm{N\,m} \]
ve gerekli motor gücü:
\[ P= \frac{T_Zn}{9550} = 0{,}022\ \mathrm{kW} \]
olarak bulunmuştur.
Mekanik tasarım bölümünde araştırmacılar nominal gücü 0,1 kW ve nominal hızı 1320 r/min olan YPE200-4 disk tipi küçük asenkron motoru seçmiştir. Bununla birlikte kontrol modelinin sonraki bölümlerinde farklı motor terminolojileri kullanılmaktadır; bu kaynak içi farklılık ayrıca yöntem notunda korunmuştur.
Sliplerin dinamik modeli nasıl kurulmuştur?
Sliplerin boru radyal yönündeki yer değiştirmesi \(\Delta y(t)\) genelleştirilmiş koordinat olarak seçilmiş ve sistem Lagrange yöntemiyle modellenmiştir.
Uzun bağlantı çubuklarının boyu \(L\), somundan aktarılan eksenel kuvvet \(F_t\), slip kütlesi \(m_K\) ve sürtünme katsayısı \(u\) olmak üzere çalışma şu dinamik denkleme ulaşmaktadır:
\[ m_K\Delta\ddot{y} = \frac{2F_t}{L} \left( \Delta y - u\sqrt{L^2-\Delta y^2} \right) \]
Denklem, slipin radyal ivmesini bağlantı kuvveti, mekanizma geometrisi ve boru duvarıyla oluşan kayma sürtünmesi üzerinden ilişkilendirmektedir.
Dinamik model fiziksel olarak test edildi mi?
Evet, ancak doğrulamanın kapsamı sınırlıdır. Çalışmanın fiziksel deneyi tam robotun denizaltı borusunda tıkama operasyonu değildir. Laboratuvar koşulları nedeniyle yalnız ankraj sliplerinin yer değiştirme hareketi benzerlik prensibi kullanılarak oluşturulan bir deney düzeneğinde test edilmiştir.
Düzenekte elektrikli doğrusal aktüatör slip mekanizmasını iterken yer değiştirme sensörü, amplifikatör, kontrolör ve bilgisayar üzerinden hareket kaydedilmiştir.
İtme kuvveti için altı nokta kullanılmıştır:
| İtme kuvveti (kN) | Teorik değer (mm) | Deneysel değer (mm) | Kaynakta verilen sapma (mm) | Kaynakta verilen hata oranı (%) |
|---|---|---|---|---|
| 5 | 48,2 | 43,0 | −5,2 | 9,75 |
| 8 | 50,5 | 53,4 | −2,9 | 5,43 |
| 12 | 53,1 | 53,4 | −0,3 | 0,56 |
| 15 | 53,4 | 53,3 | +0,1 | 0,19 |
| 22 | 54,2 | 55,0 | +0,8 | 1,50 |
| 25 | 54,8 | 56,2 | +1,4 | 2,62 |
Araştırmacılar 10–15 kN aralığını en uygun bölge olarak tanımlamakta ve yüksek kuvvetlerde overshoot eğilimi bulunduğunu belirtmektedir.
Ancak tabloda verilen işaretli sapmaların teorik ve deneysel değerlerden tek bir matematiksel tanımla yeniden üretilemediği görülmektedir. Örneğin 8 kN'de deneysel değer teorik değerden 2,9 mm yüksek olmasına rağmen sapma −2,9 mm olarak, 15 kN'de deneysel değer 0,1 mm düşük olmasına rağmen +0,1 mm olarak verilmiştir. Bu nedenle kaynak tablosu olduğu biçimde korunmalı ve işaretler sessizce yeniden hesaplanmamalıdır.
Çalışma ayrıca altı hata değeri için t-dağılımıyla %95 güven aralığını [−4,03; 2,00] olarak raporlamaktadır. Kaynakta verilen işaretli altı sapma değeriyle bu aralık doğrudan yeniden üretilemediği için istatistiksel sonuç da kaynakta bildirildiği biçimde aktarılmalıdır.
Kontrol için mekanik model nasıl sadeleştirildi?
Kontrol modeli motor, kaplin, vida, somun, çok çubuklu mekanizma ve sliplerden oluşan aktarım zincirini temsil etmektedir.
Somunun eksenel hareketi ile slipin radyal hareketi arasındaki doğrusal olmayan geometrik ilişki:
\[ \Delta y= \sqrt{2L\Delta x-\Delta x^2} \]
olarak verilmiştir.
Bu ilişki \(\Delta x_0=0{,}045\) m çalışma noktası çevresinde birinci dereceden Taylor açılımıyla doğrusallaştırılmıştır. Araştırmacılar maksimum göreli doğrusallaştırma hatasını yaklaşık %1,05 olarak bildirmekte ve küçük yer değiştirme dalgalanmalarının bulunduğu kontrol tasarımı için kabul edilebilir bulmaktadır.
Transfer fonksiyonunda neden dikkatli olunmalı?
Kaynağın amaçladığı genel transfer fonksiyonu:
\[ G(s)= \frac{K_aK_t\gamma_g} {Js^2+Bs} \]
şeklindedir.
Ancak sayısal katsayılarda kaynak içi uyumsuzluk bulunmaktadır. Tablo 4'te:
- \(\gamma_g=0{,}0006366\) m/rad,
- \(K_aK_t=1{,}282\times10^{-4}\),
- \(J=9{,}865\times10^{-4}\) kg·m²,
- \(B=0{,}01\) Nm/(rad/s)
verilirken devam eden türetmede farklı üsler ve \(\gamma_g\) için farklı yazımlar kullanılmaktadır. Kaynağın nihai Denklem (23)'ü:
\[ G(s)= \frac{8{,}16\times10^{-7}} {9{,}865\times10^{-4}s^2+0{,}01s} \]
olarak basılmıştır. Verianla metni bu katsayıyı yeniden hesaplayarak değiştirmemekte; kaynak içindeki sayısal uyumsuzluğu ayrıca belirtmektedir.
Klasik PID nasıl ayarlanmıştır?
Araştırmacılar kontrol yapısını PID olarak adlandırmaktadır; ancak türev kazancı tüm karşılaştırmalarda sıfırdır:
\[ K_d=0 \]
ve kaynak yapıyı açıkça konumsal PI kontrol olarak tanımlar.
Deneme-yanılma yöntemiyle seçilen temel parametreler:
- \(K_p=1000\)
- \(K_i=0{,}2\)
- \(K_d=0\)
olmuştur.
Kontrol kanunu:
\[ u(t)= K_p e(t) + K_i \int_0^t e(\tau)d\tau \]
şeklindedir. \(e(t)=x_{ref}-x(t)\), hedef ile ölçülen slip yer değiştirmesi arasındaki hatadır.
Kaynak, temel step response değerlendirmesinde klasik kontrol için yaklaşık 0,8 s yükselme süresi ve yaklaşık 0,005 mm steady-state error bildirmektedir. Bununla birlikte nihai Tablo 9'da aynı PID etiketi altında bozucusuz yer değiştirme hatası 5,0 mm olarak verilmiştir. İki hata değerinin farklı test tanımlarından veya simülasyon düzenlerinden kaynaklandığı açık biçimde açıklanmadığından birbirinin yerine kullanılmamalıdır.
DDPG neden PID parametrelerini ayarlamak için kullanılmıştır?
Deep Deterministic Policy Gradient sürekli eylem uzayları için kullanılan Actor–Critic tabanlı bir derin pekiştirmeli öğrenme yaklaşımıdır. Bu çalışmada eylem uzayı sürekli \(K_p\) ve \(K_i\) değerlerinden oluştuğu için DDPG seçilmiştir.
Actor ağının durum girdisi:
\[ s_t= [x(t),e(t),\dot e(t)]^T \]
olarak tanımlanmıştır. Actor bu durumdan gerçek zamanlı:
\[ [K_{p,t},K_{i,t}] \]
parametrelerini üretmektedir.
Critic ağı ise mevcut durum ile Actor tarafından üretilen kontrol parametrelerinin beklenen kümülatif ödülünü değerlendirir.
Deneyim tekrar tamponu ve hedef ağların yumuşak güncellenmesi eğitim kararlılığı için kullanılmıştır. Hedef ağ güncellemesinde:
\[ \tau=0{,}001 \]
kullanılmıştır.
Şekil 9'da deneyim tekrar tamponu kapasitesi \(N=1\times10^6\), batch büyüklüğü ise \(B=64\) olarak gösterilmektedir.
Temel DDPG ödül fonksiyonu nasıl kurulmuştur?
İlk DDPG-PID sürümünde ödül fonksiyonu:
\[ \gamma_t= -\alpha\cdot overshoot_t -\beta|e_t| +\delta\,II(|e_t|<0{,}1) \]
şeklindedir.
Üç farklı ağırlık kombinasyonu karşılaştırılmış ve kaynak:
\[ \alpha=0{,}4,\qquad \beta=0{,}3,\qquad \delta=0{,}3 \]
kombinasyonunu küçük aşım, hızlı bozucu bastırma ve kararlı \(K_p\) davranışı arasında en uygun denge olarak seçmiştir.
Karşılaştırma simülasyonlarında dış bozucu t = 8 s anında uygulanmaktadır.
Verianla Live: Geliştirilmiş DDPG-PID adaptif kontrol zinciri
Bu işlem sırası çalışmanın Şekil 9, Şekil 11, Şekil 13 ve Bölüm 4.2'de açıklanan kontrol mimarisini bir araya getirir. Animasyon süresi yalnız arayüz sunum süresidir; gerçek robot veya eğitim süresini temsil etmez.
| Aşama | Açıklama | Kaynak |
|---|---|---|
| 1. Durum algılama | Slip yer değiştirmesi, takip hatası ve hata değişim hızı sistem durumu olarak alınır. | Bölüm 4.2.2 ve Şekil 13 |
| 2. Actor ağı | Actor mevcut sistem durumundan sürekli Kp ve Ki parametrelerini üretir. | Bölüm 4.2.2 |
| 3. PID/PI kontrol | Uyarlanmış Kp ve Ki değerleriyle slip yer değiştirme kontrol sinyali hesaplanır; Kd kaynakta 0'dır. | Denklem 24 |
| 4. Mekanik ankraj modeli | Kontrol sinyali vida–somun ve bağlantı mekanizması üzerinden slip yer değiştirmesine dönüştürülür. | Şekil 7 ve Denklem 22–23 |
| 5. Critic değerlendirmesi | Critic ağ mevcut durum ve eylemin beklenen kümülatif ödülünü değerlendirir. | Bölüm 4.2.2 |
| 6. Deneyim tekrar tamponu | Sistem etkileşim örnekleri tekrar kullanılarak örnekler arasındaki korelasyon azaltılmaya çalışılır. | Şekil 9 ve Şekil 11 |
| 7. Mekanik kısıt cezası | PID parametreleri izin verilen aralığı veya slip mekanik strokunu aşarsa ödül fonksiyonuna ceza eklenir. | Denklem 29 ve Bölüm 4.2.4 |
| 8. İki aşamalı eğitim | Çevrimdışı Simulink verileriyle ön eğitim yapılır, ardından çevrimiçi ince ayar uygulanır. | Bölüm 4.2.4 |
| 9. Hedef ağ güncellemesi | Actor ve Critic hedef ağları τ = 0,001 yumuşak güncelleme katsayısıyla güncellenir. | Denklem 25 |
Verianla Live: Yöntem sırası görünür tabloda korunur; runtime motoru tabloyu etkileşimli bir süreç görünümüne dönüştürebilir.
Geliştirilmiş DDPG'ye ne eklenmiştir?
Standart DDPG'nin yalnız takip hatası ve aşımı ödüllendirmesi, mekanik ankraj sisteminde güvenli olmayan kontrol parametreleri oluşturabilmektedir. Bu nedenle ödül fonksiyonuna mekanik sınır cezası eklenmiştir:
\[ \gamma_t= -\alpha\cdot overshoot_t -\beta|e_t| +\delta\,II(|e_t|<0{,}1) -\gamma\,II(param_{out}) \]
Ceza mekanizması aşağıdaki koşullarda devreye girmektedir:
- \(K_p\) güvenli çalışma aralığı dışına çıkarsa,
- \(K_i\) güvenli çalışma aralığı dışına çıkarsa,
- slip yer değiştirmesi izin verilen maksimum mekanik stroku aşarsa.
Kaynakta belirlenen parametre sınırları:
\[ K_p\in[500,2000] \]
ve:
\[ K_i\in[0{,}1,0{,}5] \]
şeklindedir.
Ceza ağırlığı için 0–2 aralığında karşılaştırmalar yapılmış ve:
\[ \gamma=0{,}5 \]
değeri hızlı bozucu toparlanması ile mekanik sınırların korunması arasında tercih edilmiştir.
Neden Kp için 500–2000 sınırı seçildi?
Kaynağın Tablo 7 ve Şekil 15 karşılaştırmasına göre düşük \(K_p\) değerlerinde sistem fazla bastırılmış ve bozucudan sonra yavaş toparlanmıştır. Çok yüksek kazançlarda ise yüksek frekanslı salınımlar oluşmuştur.
| Kp | Aşım | Kaynakta bildirilen dayanıklılık | Davranış |
|---|---|---|---|
| 200 | Çok düşük | Zayıf | Kontrol çabası yetersiz, en yavaş tepki |
| 600 | Çok düşük | Zayıf | Tutucu kontrol, küçük sürekli dalgalanmalar |
| 1000 | Düşük | Kabul edilebilir | Kararlı fakat kontrol potansiyeli tam kullanılmıyor |
| 1400 | Orta | Mükemmel olarak sınıflandırılmış | Hızlı bozucu toparlanması, kararlılık sınırına yakın |
| 2000 | Büyük | Zayıf | Belirgin sürekli salınımlar |
| 2200 | Belirgin | Zayıf | Kararlılık sınırını aşan yüksek frekanslı salınım |
Araştırmacılar bu karşılaştırma sonucunda 500–2000 aralığını mekanik kontrol açısından uygulanabilir çalışma bölgesi olarak seçmiştir.
TD3 neden ayrıca karşılaştırılmıştır?
Twin Delayed Deep Deterministic Policy Gradient (TD3), standart DDPG'nin Q-değeri aşırı tahmini ve eğitim kararsızlığı problemlerini azaltmaya yönelik bir referans algoritma olarak kullanılmıştır.
TD3'te iki ayrı Critic ağı bulunmaktadır ve hedef değer hesaplanırken iki Critic'in minimum çıktısı kullanılır:
\[ y= r+ \gamma \min \left( Q'_{\theta_1}(s',a'), Q'_{\theta_2}(s',a') \right) \]
Actor ağı Critic'e göre gecikmeli güncellenmekte ve hedef eylemlere kırpılmış Gauss gürültüsü eklenmektedir.
Şekil 17'de TD3 ve geliştirilmiş DDPG, hem bozucusuz hem bozuculu koşullarda 53,4 mm hedef yer değiştirme için karşılaştırılmıştır. Kaynak geliştirilmiş DDPG'nin daha düşük aşım, daha yumuşak tepki ve t = 8 s'de bozucu uygulandıktan sonra daha hızlı toparlanma gösterdiğini belirtmektedir. Ancak TD3 için Tablo 9'daki gibi ayrı sayısal aşım/hata tablosu verilmediğinden bu görsel karşılaştırmadan kesin TD3 performans sayıları üretilmemelidir.
İki aşamalı eğitim ne anlama geliyor?
Standart DDPG'nin eğitim başlangıcında yüksek ödül dalgalanması ve yavaş yakınsama göstermesini azaltmak amacıyla Actor–Critic ağ önce boru hattı ankraj ünitesinin Simulink modelinden oluşturulan çevrimdışı verilerle eğitilmiştir.
PID parametrelerinin ilk arama bölgesi mühendislik ayarıyla elde edilen güvenilir aralıkla sınırlandırılmıştır. Bu yaklaşım, ağın fiziksel olarak anlamsız parametre bölgelerini rastgele araştırmasını azaltmayı amaçlamaktadır.
İkinci aşamada model çevrimiçi ince ayara geçirilmekte ve sistemden alınan yeni durum–eylem–ödül deneyimleriyle politika güncellenmektedir.
Nihai simülasyon sonuçları ne gösteriyor?
Verianla Live: PID, DDPG ve geliştirilmiş DDPG performans karşılaştırması
Değerler çalışmanın nihai Tablo 9'undan alınmıştır. “Robustness” sütunu kaynakta milimetre birimiyle verilmektedir; kaynak bu metriğin ayrı matematiksel tanımını bu tabloda açıklamadığından aşağıda “kaynakta robustness metriği” olarak korunmaktadır.
| Koşul ve kontrol yöntemi | Aşım (%) | Yer değiştirme hatası (mm) | Kaynakta robustness metriği (mm) | Kaynak |
|---|---|---|---|---|
| Bozucu yok — PID | 25,0 | 5,0 | 3,0 | Tablo 9 |
| Bozucu yok — DDPG | 12,0 | 2,0 | 1,5 | Tablo 9 |
| Bozucu yok — Geliştirilmiş DDPG | 3,0 | 0,3 | 0,4 | Tablo 9 |
| Bozucu var — PID | 28,0 | 7,0 | 7,5 | Tablo 9 |
| Bozucu var — DDPG | 15,0 | 3,0 | 3,0 | Tablo 9 |
| Bozucu var — Geliştirilmiş DDPG | 4,0 | 0,5 | 0,6 | Tablo 9 |
Verianla Live: Grafik yukarıdaki görünür bilimsel veri tablosundan oluşturulur. Daha düşük aşım ve yer değiştirme hatası daha iyi takip performansını ifade eder; robustness sütunu kaynakta verilen ad ve birimle korunmuştur.
Bozucusuz koşulda geliştirilmiş DDPG'nin aşımı klasik PID'ye göre %25'ten %3'e, standart DDPG'ye göre ise %12'den %3'e düşmektedir. Yer değiştirme hatası sırasıyla 5,0 ve 2,0 mm'den 0,3 mm'ye gerilemektedir.
Bozucu koşulda geliştirilmiş DDPG için aşım %4,0 ve yer değiştirme hatası 0,5 mm'dir. Aynı koşulda klasik PID %28 aşım ve 7,0 mm, standart DDPG ise %15 ve 3,0 mm sonuç vermektedir.
Şekil 18'in kontrol yanıtları ve çubuk grafikleri bu tabloyu görsel olarak desteklemektedir: klasik PID başlangıçta belirgin yüksek aşım gösterirken geliştirilmiş DDPG hedef 53,4 mm'ye daha yumuşak yaklaşmaktadır. t = 8 s'de bozucu uygulandığında klasik PID ve standart DDPG eğrilerindeki sapmalar daha büyük, geliştirilmiş DDPG'deki sapma daha küçüktür.
Çalışmanın desteklediği sonuçlar
- Vida tahriki, eksantrik krank-kızak ve paralelkenar mekanizması birleştirilerek altı slipli kompakt bir ankraj ünitesi tasarlanmıştır.
- Slip hareketinin dinamik modeli Lagrange yöntemiyle oluşturulmuştur.
- Slip yer değiştirme davranışı altı farklı itme kuvvetinde sınırlı fiziksel laboratuvar deneyiyle incelenmiştir.
- Kaynak 10–15 kN itme aralığını kendi deney düzeni için uygun ankraj bölgesi olarak tanımlamaktadır.
- DDPG, \(K_p\) ve \(K_i\) parametrelerinin sürekli uyarlanması için kullanılmıştır.
- Geliştirilmiş DDPG ödül fonksiyonuna mekanik kısıt cezası eklenmiştir.
- \(K_p\) için 500–2000, \(K_i\) için 0,1–0,5 güvenli çalışma sınırları tanımlanmıştır.
- Mekanik ceza ağırlığı için 0,5 değeri kaynak simülasyonlarında en uygun denge olarak seçilmiştir.
- İki aşamalı çevrimdışı ön eğitim ve çevrimiçi ince ayar stratejisi uygulanmıştır.
- Nihai simülasyonlarda geliştirilmiş DDPG, klasik PID ve standart DDPG'den daha düşük aşım ve yer değiştirme hatası vermiştir.
Çalışmanın desteklemediği veya henüz doğrulamadığı sonuçlar
- Geliştirilmiş DDPG kontrolünün gerçek denizaltı boru hattında aynı sayısal performansı vereceği gösterilmemiştir.
- Kontrol yöntemi tam ölçekli PIPR prototipinde fiziksel olarak test edilmemiştir.
- Hardware-in-the-loop doğrulaması yapılmamıştır.
- Gerçek denizaltı basıncı, türbülanslı akış ve uzun dönemli boru içi çalışma koşulları aynı deneyde birlikte doğrulanmamıştır.
- Sensör hataları, haberleşme gecikmesi ve gerçek elektronik sürücü dinamiklerinin tümü deneysel olarak değerlendirilmemiştir.
- Tablo 9 sonuçları farklı çap, geometri veya ankraj mekanizmalarına doğrudan genellenemez.
- Çalışma gerçek boru hattında sızdırmazlığın sıfır kaçakla sağlandığını deneysel olarak kanıtlamamaktadır.
- DDPG'nin bütün boru robotu kontrol problemlerinde TD3 veya diğer pekiştirmeli öğrenme yöntemlerinden üstün olduğu sonucu çıkarılamaz.
Çalışmanın Yöntemi ve Bulguları
Ankraj ünitesinin yapısal parametreleri
| Parametre | Değer | Birim |
|---|---|---|
| Boru iç yarıçapı | 285 | mm |
| Somun–vida bağıl hareketi | 90 | mm |
| Hareket süresi | 5 | s |
| Vida nominal çapı | 16 | mm |
| Vida hatvesi | 4 | mm |
| Vida hatve çapı | 14 | mm |
| Vida çiftinin hesaplanan verimi | 36,42 | % |
| Hedef vida hızı | 270 | r/min |
| Hesaplanan motor gücü | 0,022 | kW |
| Seçilen motor nominal gücü | 0,1 | kW |
| Seçilen motor nominal hızı | 1320 | r/min |
Dinamik model
Slip radyal yer değiştirmesi \(\Delta y\) genelleştirilmiş koordinat olarak kullanılmıştır. Uzun çubukların kuvveti, slip kütlesi ve kayma sürtünmesi hesaba katılarak:
\[ m_K\Delta\ddot y = \frac{2F_t}{L} \left( \Delta y-u\sqrt{L^2-\Delta y^2} \right) \]
dinamik denklemi elde edilmiştir.
Modelde slip hareketinin saf radyal öteleme yaptığı varsayılmaktadır. Bu varsayım mekanik modeli sadeleştirmekte ve gerçek mafsal boşlukları, elastik deformasyon veya üretim toleranslarını doğrudan modele dahil etmemektedir.
Fiziksel ön doğrulama
Slip mekanizması laboratuvar düzeneğinde 5, 8, 12, 15, 22 ve 25 kN itme kuvvetlerinde test edilmiştir. Kaynak 10–15 kN aralığını en düşük hata bölgesi olarak yorumlamaktadır.
Bununla birlikte Tablo 3'teki sapma işaretlerinde ve sapmanın hangi referansa göre tanımlandığında matematiksel belirsizlik bulunduğundan tablo verileri yeniden hesaplanarak düzeltilmemelidir.
Kontrol modeli parametreleri
| Parametre | Sembol | Kaynakta verilen değer |
|---|---|---|
| Vida ilerlemesi | \(P_t\) | 4 mm |
| Yer değiştirme dönüşüm katsayısı | \(\gamma_g\) | 0,0006366 m/rad |
| Vida uzunluğu | \(L_s\) | 356 mm |
| Vida yoğunluğu | \(\rho_s\) | 7850 kg/m³ |
| Vida çapı | \(d_s\) | 16 mm |
| Kaplin atalet momenti | \(J_c\) | 9,28 × 10⁻⁴ kg·m² |
| Sistem toplam atalet momenti | \(J\) | 9,865 × 10⁻⁴ kg·m² |
| Eşdeğer viskoz sönüm | \(B\) | 0,01 Nm/(rad/s) |
| Motor gerilim–tork kazancı | \(K_aK_t\) | 1,282 × 10⁻⁴ |
| Çok çubuklu mekanizma kazancı | \(K_{line}\) | 1,006 |
Tablo 4'teki bu değerlerle sonraki Denklem (23) türetiminde kullanılan bazı katsayılar arasında kaynak içi uyuşmazlık bulunmaktadır; nihai transfer fonksiyonu kaynakta basıldığı biçimde korunmalıdır.
Temel kontrolcü parametre karşılaştırması
| Grup | Kp | Ki | Kd | Aşım | Kaynakta bildirilen dayanıklılık |
|---|---|---|---|---|---|
| 1 | 5000 | 0,8 | 0 | Maksimum | En zayıf |
| 2 | 4000 | 0,5 | 0 | Büyük | Görece zayıf |
| 3 | 3000 | 0,5 | 0 | Düşük–orta | Orta |
| 4 | 2000 | 0,2 | 0 | Görece küçük | Görece güçlü |
| 5 | 1500 | 0,2 | 0 | Çok küçük | Çok güçlü |
| 6 | 1000 | 0,2 | 0 | Minimum | En güçlü |
Bu karşılaştırma sonucunda \(K_p=1000\), \(K_i=0,2\) ve \(K_d=0\) temel kontrol parametreleri seçilmiştir.
DDPG eğitim ve ağ parametreleri
| Öğe | Kaynakta bildirilen bilgi |
|---|---|
| Actor durum girdisi | Yer değiştirme, hata, hata değişim hızı |
| Actor çıktısı | Kp ve Ki |
| Yumuşak hedef güncelleme katsayısı | τ = 0,001 |
| Deneyim tekrar tamponu | N = 1 × 10⁶ |
| Batch büyüklüğü | 64 |
| Durum veri hızı | Şekil 9'da 100 Hz |
| Temel ödül ağırlıkları | α = 0,4; β = 0,3; δ = 0,3 |
| Mekanik ceza katsayısı | γ = 0,5 |
| Kp izin verilen aralık | [500, 2000] |
| Ki izin verilen aralık | [0,1; 0,5] |
| Eğitim | Çevrimdışı ön eğitim + çevrimiçi ince ayar |
Nihai algoritma sonuçları
| Çalışma koşulu | Kontrol yöntemi | Aşım (%) | Yer değiştirme hatası (mm) | Kaynakta robustness (mm) |
|---|---|---|---|---|
| Bozucu yok | PID | 25,0 | 5,0 | 3,0 |
| Bozucu yok | DDPG | 12,0 | 2,0 | 1,5 |
| Bozucu yok | Geliştirilmiş DDPG | 3,0 | 0,3 | 0,4 |
| Bozucu var | PID | 28,0 | 7,0 | 7,5 |
| Bozucu var | DDPG | 15,0 | 3,0 | 3,0 |
| Bozucu var | Geliştirilmiş DDPG | 4,0 | 0,5 | 0,6 |
Bu tablo çalışmanın en güçlü nicel kontrol sonucudur. Ancak sonuçların tamamı Simulink tabanlı kontrol doğrulamasına aittir ve gerçek tıkama robotundaki saha performansı olarak sunulmamalıdır.
Kaynak içindeki önemli teknik tutarsızlıklar
Tablo 3 sapma işaretleri: Teorik ve deneysel değerler ile “Displacement Deviation” işaretleri tek bir fark tanımıyla uyuşmamaktadır. 53,4 mm hedef değere göre yapılan yorum da bütün satırlarla aritmetik olarak eşleşmemektedir.
%95 güven aralığı: Kaynak [−4,03; 2,00] aralığını vermektedir. Tablodaki altı işaretli sapma kullanıldığında bu aralık doğrudan yeniden üretilememektedir. Kaynaktaki değer değiştirilmemiştir.
Transfer fonksiyonu katsayıları: Tablo 4, Denklem (22) çevresindeki metin ve Denklem (23) öncesindeki sayısal ikame \(K_aK_t\) ile \(\gamma_g\) için farklı üs veya rakamlar vermektedir.
Motor tipi: Yapısal tasarım YPE200-4 asenkron motoru seçerken kontrol kısmı step motor ve başka bir açıklamada DC motor/hidrolik aktüatör ifadelerini kullanmaktadır.
PID/PI adlandırması: Çalışma DDPG-PID terimini kullanmaktadır; ancak \(K_d=0\) olduğu için etkin temel kontrol yapısı kaynak tarafından da konumsal PI olarak tanımlanmıştır.
PID steady-state error: İlk step response açıklamasında yaklaşık 0,005 mm, nihai Tablo 9'da bozucusuz durumda 5,0 mm hata bildirilmektedir. Kaynak bu farkın test tanımını açık biçimde uzlaştırmamaktadır.
Deneysel doğrulamanın gerçek sınırı
Çalışmadaki fiziksel deney, ankraj sliplerinin mekanik yer değiştirme davranışını ve oluşturulan dinamik modelin genel eğilimini kontrol etmeyi amaçlamaktadır. DDPG, geliştirilmiş DDPG, TD3, ödül fonksiyonu veya adaptif \(K_p/K_i\) ayarının fiziksel test düzeneğinde çalıştırıldığına ilişkin bir donanım doğrulaması sunulmamaktadır.
Dolayısıyla araştırmanın iki doğrulama katmanı birbirinden ayrılmalıdır:
- Mekanik model: sınırlı laboratuvar yer değiştirme deneyi bulunmaktadır.
- Adaptif kontrol performansı: simülasyon doğrulamasına dayanmaktadır.
Bu ayrım, çalışmanın gerçek mühendislik olgunluğunu değerlendirmek açısından temel önemdedir.
Kaynak ve Yöntem Notu
Tam özgün çalışma adı: Adaptive Tracking Control of Anchoring Unit for Pipeline Intelligent Plugging Robot Based on Improved Deep Deterministic Policy Gradient
Yazarlar: Tingting Wu, Yaxin Liu, Laihe Qi, Pu Wang, Qingtao Liang, Shuai Li, Lijian Li, Xingyuan Miao, Hong Zhao, Xingxing Wang.
Yazar sırası: Kaynaktaki sıra aynen korunmuştur.
Sorumlu yazar: Tingting Wu.
Eş katkı/eş birinci yazar: Kaynakta böyle bir beyan bulunmamaktadır.
Kurumlar: School of Mechanical Engineering, North China University of Water Resources and Electric Power, Zhengzhou, China; School of Mechanical Engineering, China University of Mining and Technology, Beijing, China; College of Mechanical and Transportation Engineering, China University of Petroleum, Beijing, China.
Dergi: Machines.
Yayınevi: MDPI.
Bibliyografik kayıt: Machines 2026, 14, 675.
DOI: 10.3390/machines14060675.
Resmî yayın bağlantısı:https://doi.org/10.3390/machines14060675
Yayın tarihi: 10 Haziran 2026.
Kaynak türü ve hakemlik durumu: Hakemli özgün araştırma makalesidir. Ankraj mekanizmasının hareket modeli sınırlı fiziksel deneyle incelenmiş; geliştirilmiş DDPG-PID kontrol performansının doğrulaması simülasyonla gerçekleştirilmiştir.
Lisans: Creative Commons Attribution (CC BY).
Finansman: Henan Provincial Science and Technology Research Project (262102221054), National Natural Science Foundation of China (52475347), Key Research and Development Projects in Henan Province (251111222600), Science and Technology Innovation Leading Talent Support Program of Henan Province (254200510047) ve Henan Province yükseköğretim kurumları Key Scientific Research Project Plan kapsamındaki Research Special Program (26ZX018).
Veri erişilebilirliği: Yazarlar verilerin makalenin içinde bulunduğunu belirtmiştir.
Çıkar çatışması: Yazarlar çıkar çatışması olmadığını beyan etmiştir.
Yazar katkıları: Tingting Wu kavramsallaştırma, yöntem ve finansman ediniminde; Yaxin Liu yöntem, yazılım, doğrulama ve ilk taslakta; Laihe Qi yazılım ve doğrulamada; Pu Wang doğrulamada; Qingtao Liang araştırmada; Shuai Li ve Xingxing Wang kaynak sağlamada; Lijian Li veri düzenlemede; Xingyuan Miao inceleme ve düzenlemede; Hong Zhao gözetimde görev almıştır.
Bu Verianla makalesindeki robot yapısı, mekanik boyutlandırma, dinamik denklemler, fiziksel deney sonuçları, kontrol mimarileri, DDPG/TD3 açıklamaları, ödül fonksiyonları ve performans değerleri incelenen kaynak çalışmaya dayanmaktadır. Bibliyografik kimlik doğrulaması dışında dış kaynaklardan yeni bilimsel deney veya performans sonucu eklenmemiştir.
Temel yöntemsel sınır: Mekanik ankraj ünitesi için slip yer değiştirme süreci laboratuvar ölçekli fiziksel düzenekte sınanmıştır. Buna karşılık geliştirilmiş DDPG-PID'nin nihai performans sonuçları MATLAB/Simulink simülasyonuna dayanmaktadır. Tam ölçekli robot, hardware-in-the-loop, gerçek denizaltı boru hattı, saha basıncı ve uzun dönem dayanıklılık doğrulaması mevcut çalışmada bulunmamaktadır.
Tablo 3 tutarsızlığı: Teorik ve deneysel yer değiştirme değerleri ile kaynakta verilen işaretli sapmalar bütün satırlarda aynı fark tanımını izlememektedir. Kaynakta verilen %95 güven aralığı da tablodaki altı işaretli değer kullanılarak doğrudan yeniden üretilememektedir. Sayılar kaynakta bulunduğu biçimde korunmuştur.
Transfer fonksiyonu tutarsızlığı: Tablo 4 ve Denklem (23) türetimi \(K_aK_t\) ve \(\gamma_g\) için farklı üs/rakamlar kullanmaktadır. Nihai denklem kaynakta basıldığı biçimde aktarılmış, katsayılar sessizce yeniden hesaplanmamıştır.
Motor ve aktüatör terminolojisi: Mekanik tasarım YPE200-4 disk tipi asenkron motoru seçmektedir; kontrol modeli bölümlerinde step motor, DC motor ve bir noktada hidrolik aktüatör ifadeleri bulunmaktadır. Kaynak bu terminolojik farklılıkları ayrıca açıklamamaktadır.
PID/PI notu: Makale ve algoritma adlandırmasında “PID” kullanılmakla birlikte seçilen kontrolcüde \(K_d=0\)'dır ve kaynak temel yapıyı konumsal PI kontrol olarak tanımlamaktadır.
Kontrol hatası notu: İlk PID step response değerlendirmesinde yaklaşık 0,005 mm steady-state error belirtilirken nihai Tablo 9'da bozucusuz PID displacement error 5,0 mm olarak verilmektedir. İki sonuç kaynakta aynı metrik ve test koşulu altında açık biçimde uzlaştırılmamıştır.

Bir yorum bırakın
E-posta adresiniz yayınlanmayacaktır. Gerekli alanlar * ile işaretlenmiştir