Principal Poma Per tant, Apple deixarà d'escoltar les vostres sol·licituds de Siri. Ara que?
Poma

Per tant, Apple deixarà d'escoltar les vostres sol·licituds de Siri. Ara que?

Opinió És hora d'enfrontar-se a una dura veritat sobre l'aprenentatge automàtic i la IA: per millorar, la gent s'ha d'implicar. Escriptor de personal, tauletes S 2 d'agost de 2019 a les 09:00 PDT icona siri lloc web d'Apple poma

Una setmana després d'a informe a The Guardian va revelar que els humans del programa de qualificació Siri d'Apple estaven escoltant activitats privades i il·legals, Apple ha suspès el programa per fer una revisió. També està treballant en una actualització de programari per oferir als usuaris la possibilitat de desactivar-se (o potser optar-hi).

Apple va emetre una declaració senzilla: estem compromesos a oferir una gran experiència Siri alhora que protegim la privadesa dels usuaris. Tot i que fem una revisió exhaustiva, suspendrem la qualificació de Siri a nivell mundial. A més, com a part d'una futura actualització de programari, els usuaris tindran la possibilitat d'escollir participar en la qualificació.

Això és el correcte, però em fa preguntar-me quin ha de ser el camí a seguir. Perquè, tot i que la majoria de la gent no se n'adona, l'aprenentatge automàtic (ML) i la IA es basen en la qualificació humana i no hi ha una bona alternativa a la vista. I amb Siri sovint criticat per estar un any o dos per darrere dels seus rivals, no serà fàcil per a Apple posar-se al dia mentre protegeix la nostra privadesa.



Tothom ho fa

De què tracta aquest programa de qualificació de Siri? Bàsicament, cada vegada que dius Hola Siri... l'ordre que pronuncies es processa al teu dispositiu, però també semi-anònim i enviat al núvol. Un petit percentatge d'aquests s'utilitzen per ajudar a entrenar la xarxa neuronal que permet a Siri (i a la funció Dictat d'Apple) entendre amb precisió el que esteu dient. Algú, en algun lloc del món, està escoltant algunes de les ordres Hey Siri i prenent nota de si Siri ha entès correctament la persona o no.

l'iphone xs té càrrega sense fil?

Aleshores, la xarxa d'aprenentatge automàtic s'ajusta i es reajusta i es reajusta mitjançant milions de permutacions. Els canvis es comproven automàticament amb aquestes mostres graduades fins que un nou algorisme de ML produeix resultats més precisos. Aleshores això La xarxa neuronal es converteix en la nova línia de base i el procés es repeteix.

No hi ha manera d'entrenar algorismes de ML, per al reconeixement de veu o de fotografies o per determinar si la vostra càmera de seguretat ha vist una persona o un cotxe, sense que un humà l'entreni.

No hi ha manera d'entrenar algorismes de ML, per al reconeixement de veu o de fotografies o per determinar si la vostra càmera de seguretat ha vist una persona o un cotxe, sense que un humà l'entreni d'aquesta manera. Si hi hagués un algorisme informàtic que sempre pogués determinar amb precisió si la IA era correcta o incorrecta, ho faria ser l'algoritme d'IA!

Apple, Google, Amazon, Microsoft i qualsevol altra persona que produeixi assistents d'IA utilitzant algorismes d'aprenentatge automàtic per reconèixer la parla o detectar objectes en fotos o vídeos o gairebé qualsevol altra cosa ho estan fent. Estan escoltant les consultes del teu assistent, estan mirant les teves fotos, estan mirant les teves càmeres de seguretat.

Una mena de.

podeu trucar de 3 vies a Facetime

(De fet, Google també ho ha fet acaben de suspendre les revisions dels seus enregistraments lingüístics després que una investigació alemanya revelés que els contractistes van filtrar informació confidencial a la premsa. Vaja.)

Sens dubte, podeu entrenar algorismes de ML mitjançant un munt de fotos, vídeos i mostres de veu comprades comercialment i amb llicència. I moltes empreses ho fan, però això només us portarà fins aquí. A realment fes que la teva IA sigui fiable, necessita la mateixa qualitat de fotos, vídeos i enregistraments que es fan als dispositius de la teva empresa. Necessita una parla desordenada i amb accent des de sis peus de distància al micròfon del telèfon amb el soroll del vent i una talladora de gespa al fons.

L'entrenament humà de la IA no és un esdeveniment rar, és una pràctica habitual. Les capacitats de conducció autònoma de Tesla s'estan construint amb éssers humans entrenant una xarxa neuronal mirant les dades de la càmera dels cotxes dels seus clients i marcant senyals, carrils, altres cotxes, bicicletes, vianants, etc. Simplement no podeu entrenar un algorisme d'aprenentatge automàtic d'alta qualitat sense que els humans revisin les dades.

Anònim, però no del tot

Com que simplement no és possible entrenar un algorisme d'IA d'alta qualitat destinat a ser utilitzat per milions de persones sense una revisió humana, la majoria de les empreses almenys intenten fer-lo semi-anònim. Abans que qualsevol ésser humà escolti una gravació, se li retira qualsevol dada que es pugui utilitzar per identificar un usuari precís. Almenys, això és el que les empreses ens diuen que fan.

forma d'ona siripoma

Si l'ús de Facebook és una indicació, la majoria de la gent estaria bé que les seves dades s'utilitzin per entrenar algorismes d'IA.

Però normalment es necessita una certa quantitat de dades més enllà de l'enregistrament de veu real o foto/vídeo, de manera que no pot ser completament anònim.

Per exemple, si dic, Ei Siri, a quina hora tanca la botiga UPS de Greenback Lane? i Siri pensa Vaig dir A quina hora tanca la botiga UPS de Glenn Brook Lane? Vaig a obtenir un mal resultat. No hi ha Glenn Brook Lane a prop meu, i sens dubte no hi ha cap botiga UPS. Però no hi ha manera que un sistema automatitzat sàpiga que la seva transcripció era incorrecta, perquè això és certament una cosa que una persona podria dir.

Per tant, un ésser humà ha de revisar aquestes coses i ha de saber aproximadament on era quan vaig fer la sol·licitud. Aquests alumnes humans no sabran que Glenn Brook Lane s'equivoca sense prou dades d'ubicació per saber que no hi ha Glenn Brook Lane a prop meu, oi?

De la mateixa manera, una persona que revisa les imatges de vídeo de Ring per diferenciar els cotxes en moviment de les persones pot necessitar saber si està mirant imatges d'una càmera exterior (que veu molts cotxes) o una càmera interior (que només hauria de veure els cotxes a través de les finestres).

Com bloquejar números desconeguts iphone

La divulgació completa és clau

És difícil saber exactament com reaccionarien els consumidors davant la manera com es poden utilitzar les seves dades per entrenar algorismes d'IA si sabessin exactament com funciona i què s'estava fent exactament per protegir la seva privadesa. Tinc la sensació que la majoria estaria bé (si la gent estigués tan preocupada per la informació personal i la privadesa, Facebook no seria utilitzat per 1.200 milions de persones).

Però no ho saben, i cap de les empreses implicades sembla interessada a explicar-ho. Les declaracions breus a la premsa tecnològica no són el mateix que informar als vostres centenars de milions d'usuaris. Amagar declaracions permissives de 4.000 paraules de profunditat al vostre acord dens Termes del servei no compta. Aquesta manca de divulgació és un fracàs clau.

Un dels problemes més grans és el fet que els assistents virtuals sovint enregistren coses que no haurien de fer. Siri, Alexa i Google Assistant bàsicament estan enregistrant sempre. Escolten uns segons a la vegada en una memòria intermèdia del dispositiu en bucle constant, sense enviar informació enlloc fins que escolten la frase de despertar: Hey Siri, Alexa o OK Google / Hey Google. Només després d'això activen la connexió de xarxa i envien les vostres dades al núvol.

Com tots sabem, de vegades aquestes frases d'estela no funcionen, i de vegades es desencadenen fins i tot quan ningú les ha dit. Aquests falsos desencadenants són els que acaben fent que els alumnes humans escoltin fragments de converses privades, tractes de drogues, activitat sexual, etc.

De nou, no hi ha una solució senzilla. Aquests assistents no seran perfectes per escoltar les seves frases de despertar tret que els éssers humans els diguin quan s'han equivocat.

Fent la feina nosaltres mateixos

Això no vol dir necessàriament que hàgim de transmetre les nostres dades als altres. Podríem fer la formació i la qualificació nosaltres mateixos. Apple podria canviar l'iPhone de manera que cada vegada que es crida a Siri, se'ns presenten botons senzills correctes o incorrectes. Si l'usuari marca una incorrecta, potser podria oferir més informació: la frase correcta o la manera en què la resposta que se li va donar no era la que s'esperava.

Als altaveus intel·ligents es podrien donar frases clau que ens permetin fer el mateix amb la nostra veu, potser utilitzant un telèfon enllaçat per fer correccions.

Aleshores, l'algoritme ajustat, però cap de les nostres dades personals, es podria enviar de nou a l'empresa matriu per combinar-lo amb el de tots els altres i incorporar-lo a la propera versió del programari. Algunes empreses ja utilitzen aquest mètode per a certs tipus d'algorismes ML, com el text predictiu intel·ligent als teclats (on, per la seva pròpia naturalesa, tots corregim errors).

mac book air vs mac book pro

La gran majoria d'usuaris mai no es molestaria en qualificar i corregir el seu assistent virtual, és clar. L'objectiu principal d'ells és evitar aquest tedi, i qui vol revisar cada activador de moviment mal diagnosticat a la seva càmera de seguretat intel·ligent o una foto mal etiquetada en un àlbum de fotos amb intel·ligència artificial? Això és treball . Això és el contrari del que serveix la IA.

Però amb una audiència prou gran, i Apple sens dubte pot afirmar que amb més de mil milions de dispositius en ús, fins i tot un petit percentatge d'usuaris actius que entrenen els seus dispositius seria una gran mostra per extreure'n. Fins i tot podria ser suficient per fer de Siri un excepcional Assistent d'IA, que actualment definitivament no és.

Una empresa com Apple estaria disposada a fer aquesta milla addicional? Per embrutar el seu disseny elegant i només funciona les aparences amb una interfície de fàcil accés que, per la seva mateixa existència, implica que alguna cosa no funciona prou sovint? Probablement no. Apple probablement completarà ràpidament la revisió del seu programa de qualificació i el restablirà amb un interruptor de commutació a la configuració de privadesa per desactivar-lo. És el més senzill de fer, però és una oportunitat perduda per convertir almenys una petita part de centenars de milions d'usuaris de Siri en milloradors actius de Siri.