În cazul în care programatori pentru a efectua munca imorale sau ilegale?

Săptămâna trecută, rețeaua are un post scris de un programator și profesor Bill Sourorom. Se numește „cod, pe care mi-e rușine.“

Pe măsură ce discuția a început printre programatori

În prima Souror spune povestea teribilă a unui programator tânăr care a primit un loc de muncă și a primit sarcina de a crea un site web pentru companiile farmaceutice. Întregul mesaj este în valoare de lectură, dar ideea este că programator a trebuit să ajute compania să creeze anunțuri bazate pe înșelăciune, care ar fi trebuit să convingă femeile tinere care iau un anumit medicament.

Mai târziu, el a aflat că medicamentul a fost cunoscut pentru proprietatea sa de a agrava depresia și cel puțin o tânără femeie sa sinucis prin a lua-o. De asemenea, el a aflat că sora sa ia acest medicament, și a avertizat-o cu privire la consecințele.

Cu toate acestea, chiar zeci de ani mai târziu, el încă se simte vinovat din cauza acestei lucrări. Scriu acest post a fost inspirat de o conversație Roberta Martina, intitulată „Viitorul programării.“ Martin este o figură populară în lumea de programatori, deși aici este mai cunoscut sub numele de „Unchiul Bob“.

Dezvoltatorii de software „ucide oameni“

În acest interviu, Martin susține că dezvoltatorii de software trebuie să dau seama ce-și asume responsabilitatea, și trebuie să se facă rapid. „Să decidă ce înseamnă să fii un programator - Martin spune în videoclip. - Civilizația depinde de noi, dar nu-l dau seama până acum ".

Faptul că toată lumea, în lumea de azi, ceea ce facem, inclusiv cumpararea de lucruri, apelurile telefonice, mașini de conducere, care zboară în avioane, nu se poate face fără a software-ului. Zeci de oameni au fost deja uciși de către software-ul defect în mașini, în timp ce sute de persoane au murit din același motiv în timpul transportului aerian.

„Noi ucide oameni, - spune Martin. - Am intrat în această afacere să nu o facă. Dar situația se doar mai rău ".

noi probleme

Martin a menționat că, în opinia sa, există semne că dezvoltatorii în următorii ani se vor confrunta cu unele probleme reale. El a citat exemplul directorului general al Volkswagen din America, Michael Horn, care a acuzat mai întâi inginerii de software din emisiile care sunt produse de către companie. În timpul scandalului care a izbucnit la o audiere Congresului, Horn a spus că programatorii au acționat singuri „dintr-un motiv sau altul.“ Mai târziu, a demisionat după ce procurorii Horn americani au acuzat societatea în luarea acestei decizii la cel mai înalt nivel și încearcă să-l ascundă.

Dar Martin a spus: „Cel mai ciudat lucru a fost comportamentul dezvoltatorii de software care au scris codul. Unii programatori a scrie cod care a ajutat compania să încalce legea. Crezi că ar putea ști despre asta? Cred că sunt susceptibile de a ști. "

Apel la acțiune

Martin a terminat discursul cu un apel la acțiune, în care el a avertizat că o zi unii dezvoltator de software-ul va face acest lucru va duce la o catastrofă, care ucide zeci de mii de oameni.

Dar Souror indică faptul că nu este doar o întâmplare sau uciderea deliberată a poluării aerului. Firmele de pe Wall Street sunt deja folosind software-ul pentru a manipula cotații bursiere. „Nu se poate întâmpla fără nici un programator care creează o ordine de fals“, - spune Souror.

recunoașterea programatori

Sourora postare a aparut pe Hacker News și Reddit și a provocat publicarea unei liste lungi de recunoașteri din programatorii de lucruri imorale și ilegale, uneori, pe care le-au cerut să le îndeplinească.

Unul a scris despre activitatea sa în compania care a semnat persoane pentru buletine de e-mail, chiar și după ce le dau în sus (care poate fi o încălcare a legii federale). Programatorii apoi scrie script-uri pentru a ajuta la vanzatori determina publicul țintă al companiei. Atunci când acest tip a declarat directorul tehnic aviz cu privire la un astfel de lucru lipsit de etică, el a fost obligat să scrie o scrisoare de demisie. Și acum, după el, aceiași programatori care lucrează la start-up-uri pentru a determina o gamă largă de date privind locația oamenilor.

Un alt programator a fost angajat prin scrierea de software pentru radio. El a fost rugat să utilizeze canalele rezervate pentru serviciile de urgență, deoarece ar accelera funcționarea dispozitivului. „Este mai rapid, dar ilegal, și, în plus, este periculos în caz de urgență“, - a spus el. El a refuzat să se conformeze acestui ordin, dar spune că există întotdeauna un programator care este dispus să urmeze ordinele fără discuție.

Un alt programator mi-a spus că, în timpul formării el a fost transferat într-un cod pe care l-ați copiat de pe site-ul concursului. Omul a cerut să creeze pe baza sa un demo pentru investitori. El a dat seama că conducerea a fost necesară pentru a le induce în eroare.

De asemenea, a publicat o poveste despre modul în care un alt programator a fost rugat să se schimbe de rezervă a anumitor date financiare și a lansa raportul anual din nou prin restaurarea copiei de rezervă a fost modificată. Acest programator a refuzat locul de muncă. Câțiva ani mai târziu a aflat că foștii săi clienți au fost arestați pentru evaziune fiscală.

Un programator, de asemenea, a spus că recent, el a fost rugat să creeze un joc de noroc pentru copii sub masca de unul a cărui direcție de gestionare. Potrivit lui, el nu mai lucrează pentru companie.

lipsa de etică

Tema comună între toate aceste povești este că, în cazul în care dezvoltatorul refuză să se conformeze cu o astfel de lucru, compania va găsi pur și simplu pe altcineva care ar putea face acest lucru. Poate că acest lucru este adevărat acum, dar se poate schimba în curând.

„Noi conduce lumea, - a spus Martin. - Alți oameni cred că ei conduc lumea. Dar, de fapt, ele sunt scrise doar reguli și să le prezinte noi. Și apoi vom scrie reguli pentru a vă ajuta să opereze mașinile și de a face tot ceea ce este necesar pentru omenire. "

Martin a avertizat, în cazul în care programatorii nu încep să își asume responsabilitatea pentru acțiunile lor acum, după ce se întâmplă un eveniment apocaliptic, care ar putea ucide mii de oameni, legislatorii se va face pentru ei, dictarea toate regulile de funcționare, până la limba pe care le vor putea utiliza.

adresare

Soluția evidentă este de a învăța elementele de bază ale eticii. Și ei sunt destul de mult obligatorie pentru fiecare elev de informatică, care a absolvit un program de formare de patru ani. Biblia acest curs ar trebui să fie o lucrare a autorului Sarah Baas „Cadou de foc:. Problemele sociale, juridice și etice pentru calculatoare“

Din păcate, multe dintre dezvoltatorii de software de azi sunt auto-învățați sau să învețe prin intermediul așa-numitelor bootcamps de codificare.

În acest caz, educația lor rareori include orice fel de etică de predare. O atenție deosebită trebuie acordată persoanelor care pot scrie rapid cod pentru a satisface piața în creștere și vorace.

Souror încurajează toți dezvoltatorii care utilizează site-uri de formare on-line bootcamps și, pentru a începe să vorbim despre responsabilitățile etice care vin împreună cu codul scris.

controlul funcționării

Dar ceea ce programatorii într-adevăr nevoie de o organizație care va gestiona și de a reglementa profesia lor. Alte industrii, după cum știm, au avut mult timp un astfel de control. În prezent, nu este nimic de genul asta pentru dezvoltatori, deși Asociația pentru Computing Machinery a început deja să creeze documente etice pentru programatori.