YZ'nin benimsenmesi büyük umut vaat etse de, zararlı etkileri olabilecek bazı temel sorunlar vardır. Bu bölüm, bu sorunları ele almak için potansiyel yolları tanımlamaktadır.
Bu çalışma, daha geniş bir YZ uygulamasından elde edilen gelişmiş verimliliğin, çalışanların iş kalitesinin ve refahının iyileştirilmesi anlamına gelmediğini göstermiştir. Bu bulgulara katkıda bulunan Çin'e özgü köklü sosyo-ekonomik faktörler olsa da, Çin'deki işçilerin koşullarını kötüleştiren YZ araçlarının nasıl tasarlandığı ve uygulandığı ile ilgili sorunlar da vardır.
Mühendisler geleneksel olarak teknolojinin inceliklerine odaklanırken, şimdi aniden kararlarının geniş toplumsal sonuçlara yol açtığı pozisyonlara itiliyorlar. Ancak Çin'deki yaygın teknik odaklı eğitim ve öğretim, bu profesyonelleri böylesine geniş kapsamlı karar alma süreçleri için gereken bilgi derinliği ile nadiren donatıyor - bunu yeterince başarmak için etikçiler, politika yapıcılar, sosyal bilimciler ve filozoflardan girdiler gerekiyor.
Çin mühendislik müfredatları, sorumlu ve etik teknolojik gelişmeyi teşvik etmek için gerekli olan beşeri bilimler konularını bir kenara bırakarak büyük ölçüde teknik bilgiye yönelmektedir. Sonuç olarak, mühendisler işgücüne katıldıklarında, kendilerini sıklıkla izole ortamlarda bulmakta ve müşteriye dönük çalışanların karşılaştığı günlük zorluklara dair sınırlı bir anlayışa sahip olmaktadırlar. Sıkı teslim tarihleri ve yoğun programlar altında ürün iyileştirme taleplerini yerine getirmeye odaklanan mühendisler, çalışmalarının daha geniş çaplı etkilerini düşünmekte zorlanmaktadır.
Dahası, sosyal hususları tasarımlarına entegre etmek isteyenler bile, sorumlu yapay zeka geliştirmeye yönelik açık ve uygulanabilir kılavuzların yokluğu nedeniyle genellikle kendilerini kaybolmuş hissediyor. [70]
Sonuç olarak, teknik kararlar alınırken sosyal etkiler nadiren dikkate alınmaktadır. Bu boşluk, çalışanların zararına etik olmayan ve sorumsuz tasarımlara ve uygulamalara yol açabilir. Yapay zeka ürünlerinin büyük ölçekte ve fazlalıkların otomatikleştirilmesi gibi yüksek riskli senaryolarda kullanılması özellikle tehlikelidir.
Yukarıdan aşağıya karar verme
Yapay zeka çözümleri yukarıdan aşağıya doğru geliştirilme ve uygulanma eğilimindedir. Kilit kararlar ağırlıklı olarak iş liderleri ve mühendisler tarafından alınmakta ve genellikle bu sistemlerin etkileyeceği çalışanların içgörüleri göz ardı edilmektedir. Teknoloji uzmanları ve hissedarların çıkarları balonunun içine gömülmüş olan YZ geliştiricileri, inovasyonlarının daha geniş toplumsal sonuçlarını kavramakta genellikle başarısız olmaktadır. Bunun yerine, karar verme süreçleri öncelikle ticari kazançlar ve algoritmaların hassasiyetinin, hızının ve güvenilirliğinin geliştirilmesine bağlı olan kullanıcı deneyimlerinin iyileştirilmesi tarafından yönlendirilmektedir.
Yine de, altta yatan yapay zeka mekanizması tarafsız, teknik bir optimizasyondan çok uzaktır. Mühendislerin algoritmalarda küçük değişiklikler olarak gördükleri şeylerin çalışanlar üzerinde derin etkileri olabilir. Çinli yemek dağıtım şoförlerinin, YZ tarafından belirlenen teslimat sürelerinin azaltılmasına tepki olarak trafik kurallarını ihlal etmesi, verimlilik odaklı sonuçların, bu tür bir optimizasyonun gerçekleştiği bağlamları nasıl ihmal edebileceğini göstermektedir. Şirketler daha gelişmiş YZ çözümleri uyguladıkça, istemeden de olsa, verimliliği artırmak için tasarlanmış algoritmalar tarafından geliştirilen yeni işyeri normları ve standartları oluşturmaktadırlar.
Mühendisler geleneksel olarak teknolojinin inceliklerine odaklanırken, şimdi aniden kararlarının geniş toplumsal sonuçlara sahip olduğu pozisyonlara itiliyorlar. Ancak Çin'deki yaygın teknik odaklı eğitim ve öğretim, bu profesyonelleri böylesine geniş kapsamlı karar alma süreçleri için gereken bilgi derinliği ile nadiren donatıyor - bunu yeterince başarmak için etikçilerden, politika yapıcılardan, sosyal bilimcilerden ve filozoflardan girdi almak gerekiyor.
Çin mühendislik müfredatları büyük ölçüde teknik bilgiye yönelmekte, sorumlu ve etik teknolojik gelişimi teşvik etmek için gerekli olan beşeri bilimler konularını bir kenara bırakmaktadır. Sonuç olarak, mühendisler iş gücüne katıldıklarında, kendilerini sıklıkla izole ortamlarda bulurlar ve müşteriye dönük çalışanların karşılaştığı günlük zorlukları sınırlı bir şekilde anlarlar. Sıkı teslim tarihleri ve yoğun programlar altında ürün iyileştirme taleplerini yerine getirmeye odaklanan mühendisler, çalışmalarının daha geniş etkilerini düşünmeyi zor buluyor. Dahası, sosyal hususları tasarımlarına entegre etmek isteyenler bile, sorumlu yapay zeka geliştirmeye yönelik açık ve uygulanabilir kılavuzların yokluğu nedeniyle genellikle kendilerini kaybolmuş hissediyor. [70]
Sonuç olarak, teknik kararlar alınırken sosyal etkiler nadiren dikkate alınmaktadır. Bu boşluk, çalışanların zararına etik olmayan ve sorumsuz tasarımlara ve uygulamalara yol açabilir. YZ ürünlerinin büyük ölçekte ve fazlalıkların otomatikleştirilmesi gibi yüksek riskli senaryolarda kullanılması özellikle tehlikelidir.
YZ dağıtımı çalışan adaptasyonunu geride bıraktı
Şiddetli rekabet altında, Çinli YZ firmaları genellikle pazar fırsatlarını tespit eder etmez yeni ürünleri piyasaya sürmek için acele ediyor. Çok az dış inceleme ve az sayıda düzenleyici kontrol ile, yeni YZ çözümlerinin işyerlerine dağıtılma hızı genellikle çalışanların uyum sağlama yeteneklerini aşmaktadır. Çalışanlar kendilerini değişen çalışma ortamlarına hızla uyum sağlamak zorunda bulmakta, bu da hızlı bir şekilde yeni beceriler geliştirmelerini ve yeni çalışma yöntemlerine adapte olmalarını gerektirmektedir. Hızla uyum sağlayamayanlar ise iş güvensizliği ile karşı karşıya kalmaktadır.
Çok az dış inceleme ve az sayıda düzenleyici kontrol ile, yeni YZ çözümlerinin işyerlerine dağıtılma hızı genellikle çalışanların uyum sağlama yeteneklerini aşmaktadır.
Çin'de işverenler genellikle çalışanların YZ odaklı işyeri geçişlerine uyum sağlamaları için yeterli eğitim veya zaman sağlamamakta ve devlet kurumları çalışanlar için ilgili herhangi bir eğitim vermemektedir. Bu durum, çalışanları bu yeni YZ sistemlerinde kendi başlarına gezinmek zorunda bırakmaktadır. Sonuç olarak, uyum sağlayamayanlar genellikle kendilerini düşük vasıflı, düşük değerli rollerde sıkışmış buluyor ve kariyer ilerlemesi yoluyla sosyo-ekonomik durumlarını iyileştirmek için mücadele ediyor. Bu eğilimin üzerine gidilmezse, gençlerin iş bulmakta zorlandığı Çin'de zaten zor olan iş piyasası daha da kötüleşebilir. Mevcut en son rakamlara göre, Çin hükümeti rakamları yayınlamayı bırakmadan önce, Haziran 2023'te Çin'de 16-24 yaş arası işsizlik oranı yüzde 20'nin üzerindeydi. [71]
Buna ek olarak, işverenler, bu araçları etkin bir şekilde kullanmak için gerekli becerilere sahip olmayan bir işgücü nedeniyle yapay zeka yeteneklerinden tam olarak yararlanmakta zorluklarla karşılaşmaktadır. Şirketler bu beceri eksikliğini işe alım yoluyla gidermeye çalışmaktadır. Bununla birlikte, bir İK uzmanının bir araştırma röportajında belirttiği gibi, güncel ve ilgili becerilere sahip bireyler nadirdir ve çok aranmaktadır. Yapay zekanın benimsenme hızı, çeşitli paydaşlar arasında adaptasyon kapasitesi ile dikkatli bir şekilde dengelenmezse ve yeterli destek sağlanmazsa, bu durum mevcut yetenekler ile ihtiyaç duyulan beceriler arasındaki uyumsuzluğu daha da kötüleştirebilir ve potansiyel olarak ticari çıkarları ilerletmek yerine zayıflatabilir.
Düzenleyici hesap verebilirlik eksikliği
Şu anda, YZ araçlarının uygulanması büyük ölçüde birincil hedefleri üretkenlik ve maliyet tasarrufu olan firmaların takdirine bağlıdır. İşçi hakları, kişisel verilerin korunması, piyasa uygulamaları ve YZ yönetişimini kapsayan geniş yasal etkilere rağmen, kapsamlı bir düzenleyici çerçeve hala zor.
Son yıllarda Çin, kişisel verilerin yasal olarak korunmasını güçlendirmiş olsa da, yeni yasalar esas olarak tüketicilerin haklarına ve büyük platform şirketlerinin gücünü kontrol altına almaya odaklanmaktadır.[72] Mevcut iş yasaları, dijital teknolojilerin işyerlerine getirdiği değişiklikleri yansıtacak şekilde güncellenmemiş ve gig ekonomisi çalışanlarının haklarını netleştirmemiştir.[73] YZ gelişimine yönelik güçlü devlet desteği altında, Çinli firmalar teknolojinin sınırlarını test etmekte ve çalışanları çok az yasal tepkiyle sınırlarına kadar zorlamakta büyük ölçüde özgürdür.
Agresif uygulamalar medyanın ilgisini ve toplumsal tepkiyi tetiklediğinde zaman zaman itibar kaybına uğrasalar da, Çinli şirketler üzerindeki etki kısa süreli olma eğilimindedir ve diğerleri üzerinde sınırlı bir caydırıcı etkiye sahiptir.
Bununla birlikte, programları ve gelirleri agresif algoritmalar tarafından belirlenen yemek dağıtım şoförlerinin içinde bulunduğu kötü durumu detaylandıran bir medya araştırmasının ardından kamuoyunda oluşan büyük tepkinin ardından 2022 yılında 'İnternet Bilgi Hizmetlerinde Algoritmik Tavsiyelerin Yönetimine İlişkin Hükümler' mevzuatının yürürlüğe girmesiyle bazı düzenleyici ilerlemeler kaydedilmiştir.[74] Yönetmelik, iş gönderme hizmetleri sağlayan platformların 'işçilerin ücret alma, dinlenme ve tatil yapma gibi yasal hak ve menfaatlerini koruyacağını' belirtmektedir.[75]
[70] Çinli bir yapay zeka bilimcisiyle isminin açıklanmaması koşuluyla yapılan araştırma görüşmesi, Shenzhen, 2023.
[71] Liang, A. and Marsh, N. (2023), ‘China youth unemployment hits high as recovery falters’, BBC News, 17 July 2023, https://www.bbc.co.uk/news/business-66219007.
[72] Gibson Dunn (2023), ‘Antitrust in China – 2022 Year in Review’, https://www.gibsondunn.com/antitrust- in-china-2022-year-in-review.
[73] Wang, Y. (2022), ‘Employment Law Year-in-review: Out with the Ox, in with the Tiger’, Bird & Bird LLP, Lexology, https://www.lexology.com/library/detail.aspx?g=4918cb0f-815c-49fc-882d-2677a687b880.
[74] Sheehan, M. and Du, S. (2022), ‘How Food Delivery Workers Shaped Chinese Algorithm Regulations’, commentary, Carnegie Endowment for International Peace, https://carnegieendowment.org/2022/11/02/ how-food-delivery-workers-shaped-chinese-algorithm-regulations-pub-88310.
[75] Creemers, R., Webster, G. and Toner, H. (2022), ‘Translation: Internet Information Service Algorithmic Recommendation Management Provisions – Effective March 1, 2022’, DIGICHINA, https://digichina.stanford. edu/work/translation-internet-information-service-algorithmic-recommendation-management-provisions- effective-march-1-2022. 71 Liang, A. ve Marsh, N. (2023), 'China youth unemployment hits high as recovery falters', BBC News, 17 Temmuz 2023, https://www.bbc.co.uk/news/business-66219007.
Hiç yorum yok:
Yorum Gönder