Skulle programmerere å utføre uetisk eller ulovlig arbeid?

Forrige uke, har nettverket et innlegg skrevet av en programmerer og lærer Bill Sourorom. Det kalles "kode, som jeg er skamfull."

Som diskusjonen begynte blant programmerere

I innlegget forteller Souror den forferdelige historien om en ung programmerer som har fått en jobb, og fikk i oppgave å lage en nettside for de farmasøytiske selskapene. Hele innlegget er verdt å lese, men poenget er at programmerer måtte hjelpe selskapet å opprette annonser basert på bedrag, som skulle overbevise unge kvinner som tar et bestemt legemiddel.

Senere fikk han vite at stoffet har vært kjent for sin eiendom for å forverre depresjon og minst én ung kvinne begikk selvmord ved å ta den. Han lærte også at hans søster tar denne medisinen, og advarte henne om konsekvensene.

Men selv tiår senere, fortsatt føler han seg skyldig på grunn av dette arbeidet. Skriv dette innlegget er inspirert av en samtale Roberta Martina, med tittelen "Fremtiden for programmering." Martin er en populær figur i verden av programmerere, men her er det mer kjent som "Onkel Bob".

Programvareutviklere "kill people"

I dette intervjuet, hevder Martin at programvareutviklere må finne ut hva de tar på seg ansvaret, og det må gjøres raskt. "La oss bestemme hva det betyr å være en programmerer - Martin sier i videoen. - Civilization avhenger av oss, men ikke klar over det før nå ".

Det faktum at alle i verden i dag, hva vi gjør, inkludert å kjøpe ting, telefonsamtaler, kjøre biler, fly i fly, ikke kan gjøre uten programvaren. Dusinvis av mennesker har allerede blitt drept av feil programvare i biler, mens hundrevis har dødd av samme grunn under flyreiser.

"Vi drepe folk, - sier Martin. - Vi kom inn i denne virksomheten ikke å gjøre det. Men situasjonen blir bare verre. "

nye problemer

Martin bemerket at etter hans mening, er det tegn på at utviklerne i de kommende årene vil stadig bli konfrontert med noen reelle problemer. Han siterte eksempel på General Director of Volkswagen i Amerika, Michael Horn, som først anklaget programvare ingeniører i utslippene som er produsert av selskapet. I løpet av skandalen, som brøt ut i en høring i Kongressen, sa Horn at programmerere har handlet med seg selv "for en eller annen grunn." Senere Horn trakk seg etter at amerikanske påtalemyndigheten anklaget selskapet i å gjøre denne beslutningen på høyeste nivå og prøver å skjule det.

Men Martin sa: "Det rareste var oppførselen til programvareutviklere som skrev koden. Noen programmerere skrive kode som hjalp selskapet til å bryte loven. Tror du de kan vite om det? Jeg tror de er sannsynlig å vite. "

Call to Action

Martin avsluttet sin tale med en oppfordring til handling, der han advarte om at en dag noen programvareutvikler vil gjøre som vil føre til en katastrofe, som dreper titusenvis av mennesker.

Men Souror viser at det er ikke bare et tilfeldig drap eller bevisst luftforurensning. Firmaer på Wall Street allerede bruker programvare for å manipulere aksjekurser. "Det kan ikke skje uten programmerer som skaper en falsk ordre", - sier Souror.

anerkjennelse av programmerere

Sourora post dukket opp på Hacker News og Reddit og forårsaket utgivelsen av en lang liste av anerkjennelser fra programmerere av uetiske og noen ganger ulovlige ting som de ble bedt om å utføre.

En skrev om sitt arbeid i selskapet som signerte folk for deres nyhetsbrev, selv etter at de gir dem opp (som kan være et brudd på føderal lov). Programmerere og deretter skrive skript for å hjelpe selgerne avgjøre selskapets målgruppe. Når denne fyren uttalte teknisk direktør mening om uetisk slikt arbeid, ble han beordret til å skrive et brev av resignasjon. Og nå, ifølge ham, de samme programmerere arbeider på start-ups for å bestemme en lang rekke data på plasseringen av mennesker.

En annen programmerer ble ansatt ved å skrive programvare for radio. Han ble bedt om å bruke de kanalene som er reservert for nødetatene, fordi det ville akselerere drift av enheten. "Det er raskere, men ulovlig, og dessuten er det farlig i nødstilfeller," - sa han. Han nektet å etterkomme denne ordren, men sier det er alltid en programmerer som er villig til å følge ordre uten spørsmål.

En annen programmerer fortalte meg at under trening ble han overført til noen kode som du kopierte fra konkurranseområdet. Man bedt om å opprette på sin basis en demo for investorer. Han innså at ledelsen var nødvendig å lure dem.

det publiserte også en historie om hvordan en annen programmerer ble bedt om å endre sikkerhetskopi av visse finansielle data og lansere den årlige rapporten på nytt ved å gjenopprette sikkerhetskopien av endret. Dette programmerer nektet jobben. Noen år senere fikk han vite at hans tidligere kunder ble arrestert for skatteunndragelse.

En programmerer sa også at nylig ble han bedt om å opprette et sjansespill for barn under dekke av en hvis retning til ledelsen. Ifølge ham, ikke lenger fungerer han for selskapet.

mangel på etikk

Den felles tema blant alle disse historiene er at hvis utvikleren nekter å etterkomme et slikt arbeid, vil selskapet bare finne noen andre som kunne gjøre det. Kanskje dette er sant nå, men kan snart endre seg.

"Vi herske over verden, - sa Martin. - Andre mennesker tror at de styrer verden. Men i virkeligheten er de bare skrevet regler og sende dem til oss. Og så skriver vi regler for å hjelpe deg med å betjene maskinene og gjøre alt som er nødvendig for menneskeheten. "

Martin advart, hvis programmerere ikke begynne å ta ansvar for sine handlinger nå, etter å skje noe apokalyptisk hendelse som kan drepe tusenvis av mennesker, vil lovgivere gjøre det for dem, dikterer alle reglene for drift, opp til det språket som de vil få lov til å bruke.

adressering

Den åpenbare løsningen er å lære det grunnleggende etikk. Og de er ganske mye obligatorisk for hver student i informatikk som ble uteksaminert fra en fire-årig utdanning. Bibelen dette kurset bør være et verk av forfatteren Sarah Baas "Gift of Fire. Sosiale, juridiske og etiske problemer for datamaskiner"

Dessverre er mange av dagens programvareutviklere er selvlært eller lære gjennom de såkalte kodebootcamps.

I dette tilfellet, deres utdanning inngår sjelden noen form for undervisning etikk. Spesiell oppmerksomhet bør rettes mot folk som raskt kan skrive kode for å møte den voksende og glupsk markedet.

Souror oppfordrer alle utviklere som bruker bootcamps og elektronisk opplæring nettsteder, for å begynne å snakke om etiske ansvar som kommer sammen med å skrive kode.

driftskontroll

Men hva programmerere virkelig trenger en organisasjon som vil administrere og regulere sitt yrke. Andre næringer, som vi vet, har lenge hatt en slik kontroll. Foreløpig er det ikke noe sånt for utviklere, selv om Association for Computing Machinery har allerede begynt å lage etiske dokumenter for programmerere.