AI kullanıyorsanız, etik hakkında düşünmeniz gerekir

Novartis veri ve yapay zekadan sorumlu başkanı Shahram Ebadollahi, sağlam çerçevelerin neden her zaman yeni teknolojilerin kullanımını desteklemesi gerektiğini açıklıyor

Yapay zeka, dünyada iyilik yapma potansiyeline sahiptir. Onlarca yıllık yavaş yanma gelişiminin ardından, verileri gerçek zamanlı olarak incelemek, davranışını uyarlamak ve doğruluk ve verimliliği artırmak gibi karmaşık analitik görevleri geliştirmenin ve otomatikleştirmenin merkezi haline gelmiştir.

Tıp alanı, etkin bir şekilde, ilaç keşfi, ilaç geliştirme ve hasta bakımı sürecinde üretilen ve toplanan bir veri alanı haline geldi. AI, bu değer zincirindeki karmaşık zorlukların üstesinden gelmemize yardımcı olan hızlanan bir güçtür ve hızı, doğruluğu ve verimliliği artırmak için kullanılma potansiyeline sahiptir.

Bununla birlikte, büyük bir potansiyele sahip olsa da, AI’nın uygulanma hızı, kullanımının kontrol edilemeyebileceği anlamına gelir ve son kullanıcılar, işletmelerin çıkarlarının en iyisine sahip olduklarından her zaman emin değildir. Avrupa Komisyonu, yapay zekayı geliştirirken, dağıtırken ve kullanırken uyulması gereken etik ilkeleri ve yasal yükümlülükleri başlatmaya kararlıdır ve bu alanda daha fazla düzenleme ihtiyacını pekiştirir. Resmi yönergelerin yokluğunda, işletmeler tıpkı bizim yaptığımız gibi kendi ilkelerini oluşturmak zorunda kalıyor.

Pandemi, sağlık hizmetlerine her zamankinden daha fazla dikkat çekti ve teknoloji şirketleri dikkat çekiyor. Çok yıllı stratejik iş birliği içerisinde olduğumuz Microsoft, geçtiğimiz günlerde Nuance Communications‘ı satın aldığını duyurdu. Bu, karantinadaki ‘tele-sağlık’ ve uzaktan doktor ziyaretlerindeki büyük artışın ardından “sağlık şirketleri için yazılım ve yapay zeka uzmanlığını güçlendirme” çabalarının bir parçası. Benzer şekilde, salgın uzak ortamlarda klinik deneyleri güvenli bir şekilde yürütmek için yeni teknolojilerin ve yaklaşımların uygulanmasını hızlandırdı.

Yapay zekanın artan kullanımı ve iş akışlarımıza uygulanmasıyla ve teknoloji şirketlerinin sağlık alanına daha fazla girmesiyle, yapay zeka kullanımını çevreleyen etik ilkelere her zamankinden daha fazla ihtiyaç var. Lider bir ilaç şirketi olarak, yapay zeka gibi teknolojilerin etik kullanımı söz konusu olduğunda hastalara hizmet etme ve kendimizi yüksek standartta tutma sorumluluğumuz var.

Yapay zeka, sağlık sektöründe zaten birçok şekilde kullanılıyor ve COVID-19 durumu yalnızca yaratıcı teknik çözümlere olan ihtiyacı hızlandırdı. Davranıştaki bu değişiklik, tartışmasız insanları bu yeni teknolojileri benimseme konusunda daha rahat hale getirdi. Örneğin Novartis’in AI Nurse, kalp yetmezliği teşhisi konan hastalar için Tencent ile birlikte geliştirilen bir WeChat mini uygulamasıdır. Uygulama, hastalığın ilerlemesini tahmin etmek, faaliyetler önermek, hedefe yönelik koçluk sağlamak ve bir eğitim aracı olarak hareket etmek için yapay zeka güdümlü algoritmalar kullanır. Bu veriler daha sonra hastanın durumunu değerlendirmek için kullanılır ve hemşirelerin ve doktorların hastaları uzaktan takip edip onlarla iletişim halinde kalmasına olanak tanır.

Bu, yapay zekanın insanların hayatlarını dönüştürmeye nasıl yardımcı olabileceğinin sadece bir örneğidir – ancak insanların korunmasını ve verilerinin nasıl kullanıldığının farkında olmasını sağlamak için sağlam yönergelerin mevcut olması ve bu teknolojilerin geliştirilmesinin bilinçaltını azaltacak şekilde yapılması hayati önem taşımaktadır. önyargılar ve insani hesap verebilirliği zorunlu kılar.

Bu teknolojik gelişmeler, hem fırsatlar hem de zorluklarla birlikte gelir ve üzerinde dikkatle ve olumlu bir şekilde ele alınması gereken önemli sorulara yol açar. Yapay zekanın stratejimizi etkinleştirmede bu kadar kritik bir rol oynamasıyla, net etik ilkeleri tanımlama ihtiyacının farkındayız. Bu nedenle, AI sistemlerini şeffaf ve sorumlu bir şekilde dağıtma taahhüdümüz. Sekiz temel ilkenin geliştirilmesi yoluyla, yapay zeka sistemlerinin herhangi bir şekilde kullanımının insan haklarına saygılı, doğru ve amaçlanan bağlama uygun açık bir amacı olmasını ve bunun yanı sıra genişletme ve genişletme temel misyonuyla uyumlu olmasını sağlayacağız. insan yaşamını iyileştirmek.

Novartis’in AI etik ilkeleri, yetkilendirme, hesap verebilirlik, güvenlik, mahremiyet ve önyargının azaltılmasına dayanmaktadır. Ayrıca yapay zekamızın şeffaf ve açıklanabilir olduğundan ve sürekli olarak gözden geçirebildiğinden, öğrenebildiğinden ve uyum sağladığından emin olmaya kararlıyız .

Uygulamada, bu ilkelerin kullanımı, ırk, cinsiyet, etnik köken, cinsel yönelim ve siyasi veya dini inançlar dahil olmak üzere bir dizi satırdaki olası önyargıları ortadan kaldırmak için AI algoritmalarını tasarlamak, eğitmek ve çalıştırmak için kapsayıcı ve temsili verilerin kullanılması gibi şeyleri içerir. Bu içerir sistemlerde riski etki değerlendirmelerinin performansını bilinçsiz önyargı riskini önlemek için. İnsan sorumluluğu, herhangi bir AI sistemini geliştirirken veya çalıştırırken dikkate alınması gereken çok büyük bir faktördür. Bu nedenle, sağlam komuta hatları ve etki değerlendirmeleri her zaman uygulanmalıdır.

Yapay zeka etiğine duyulan ihtiyaç ve bunu çevreleyen zorluklar hiçbir şekilde sağlık sektörü ile sınırlı değildir. Hesap verebilir, anlamlı ve şeffaf olmak, herhangi bir sektörde AI kullanan tüm şirketlerin sorumluluğundadır. Teknoloji endüstrisi uzun süredir düzenleyici ve etik sorunlarla mücadele ediyor ve artık işletmelerin ve hükümetlerin AI’nın geleceğinin adil, etik ve insan merkezli olmasını sağlamak için bu konuyu kendi ellerine almalarının zamanı geldi.

Makalenin orjinal kaynağını bu linkten okuyabilirsiniz.