Lo desconocido da miedo. Se trata de un sentimiento inherente al ser humano, fruto de su propia naturaleza. Por eso todo lo referente a la inteligencia
artificial (IA), toda una desconocida en pleno siglo XXI, en cierto modo atemoriza. Pero, ¿tiene fundamento ese temor? Josep Curto, experto en IA y que ha trabajado para Microsoft, Coca-Cola, Inditex o el Gobierno de Georgia, entre otros, defiende que no hay que tenerle miedo a la IA y que, para ello, el mejor antídoto es el conocimiento. La Vanguardia ha podido hablar con él pocos días después de que en París se debatiera sobre el control legal y ético de la IA, en unas jornadas organizadas por la UNESCO.





¿Le tenemos que tener miedo a la inteligencia artificial?

Es una buena pregunta. Lo que nos tiene que preocupar son los casos de uso de la IA. Si la aplicación que hacemos de ella no es correcta, obviamente no generaremos valor para la sociedad. Pero el potencial de esta tecnología es tan grande, y las cosas que se están haciendo ya son tan grandes, interesantes y buenas, que lo que tenemos que hacer, obviamente aplicando unos valores y unos criterios éticos, es utilizarla.

Entiendo.

Nosotros ahora usamos el smartphone para hacer fotografías. ¿Se ha fijado usted que ya no hacemos instantáneas en las que salgan los ojos de la gente rojos? ¿Y eso quiere decir que ahora somos mejores haciendo fotos? No, todo lo contrario. Lo que ocurre es que hemos desarrollado algoritmos de IA que permiten corregir este defecto de forma automática. En resumen, tenemos que ver que los casos de uso sean positivos para la sociedad.

Curto defiende que no hay que tenerle miedo a la IA
(Kerry Parke)

Usted decía que ya se están haciendo cosas grandes con IA. ¿Me puede poner algún ejemplo?

Muchas de las cosas que se están haciendo tienen que ver con poder identificar de manera más precisa y más rápida ciertas enfermedades, o incluso poder analizar mejor cuáles son las partículas fundamentales. El CERN [Centro Europeo de Física de Partículas] utiliza este tipo de algoritmos. Hay una start-up norteamericana, Appeal Sciences, que está llevando a cabo un proyecto con IA que me tiene enamorado.





Adelante.

Están abordando un problema muy complejo. Me explico. En los supermercados hay mucha comida que sobra y se tira. Pero, a veces, también nosotros, tras hacer nuestra compra, acabamos tirando comida porque, por ejemplo, se ha puesto mala rápidamente o porque no tiene el sabor que esperábamos. ¿Y por qué no tiene ese sabor?


Lo que nos tiene que preocupar son los casos de uso de la IA”


Usted dirá.

Recogemos un producto (fruta, verduras) antes de que madure y lo hacemos madurar en contenedores de frío. Llegan con el color perfecto al consumidor pero no tienen los nutrientes ni de la tierra, ni del sol, ni del agua… Hemos limitado su crecimiento y, sobre todo, su valor nutritivo y su sabor.

Le sigo.

Appeal Sciences se ha fijado en los productos más delicados. Por ejemplo, un plátano resiste mucho mejor el paso del tiempo que una fresa. Esta empresa se preguntó: ¿y si fuera posible alargar la vida de una fresa utilizando propiedades de otras frutas que de forma natural tienen esta protección? Y tú me dirás, ‘pero esto no tiene nada que ver con algoritmos ni con gestión de datos, parece un ejemplo más vinculado a lo que es la ciencia de los materiales’.





Se están haciendo grandes cosas en IA, según Curto
Se están haciendo grandes cosas en IA, según Curto
(Kerry Parke)

Podría ser.

Lo que hace esta empresa es coger distintas moléculas de algunas de las frutas y verduras más resistentes, combinarlas, y crear una solución líquida con la que recubrir la fresa. Una pregunta natural en este contexto sería: ¿cuántos días quedará esa fruta protegida con esta sustancia? Y aquí entra la parte divertida, cuando se combina ciencia de los materiales con, primero, big data y, acto seguido, machine learning. Lo que hacen es coger la fresa, hacerle muchas fotografías por segundo durante mucho tiempo [time-lapse] y utilizar luego un algoritmo de visión por computación para identificar cuándo se empieza a degradar la sustancia y, en consecuencia, se comienza a pudrir, poco a poco, la fresa.

Interesante.

O sea, almacenan muchas fotografías, que se tienen que analizar, y luego usan técnicas de machine learning, en este caso visión por computación, para identificar dónde están los puntos en los cuales el recubrimiento empieza a dejar de ser eficaz. Esta empresa tiene el potencial de evitar que se continúe tirando comida, y todo ello cuando hay partes del mundo donde se pasa hambre. Pero además, puede cambiar la manera de transportar los alimentos, y ello podría hacer que algún día podamos comer fresas que tengan sabor. Eso quiere decir que el límite de los casos de uso de la IA está sólo en nuestra imaginación.






El límite de los casos de uso de la IA está sólo en nuestra imaginación”


Suena muy prometedor.

Aquí están combinando bioquímica, por un lado, pero también big data e IA para al final crear un producto real donde estas tecnologías intervienen en la parte de la calidad de dicho producto.

Hay voces que apuntan que en 2025 las máquinas tomarán consciencia de su poder. La frase por sí sola da miedo…

Es verdad. Hay divulgadores que hablan de ese momento de la emergencia de la conciencia, y a ese instante le llaman la singularidad. Yo no tengo tan claro si será en el 2025 o dentro de 50 años. Lo que tengo claro es que en estos momentos no tenemos lo que podríamos denominar una IA general que sea capaz de dar una respuesta en cualquier escenario. Las cosas que le he explicado hasta ahora normalmente son muy particulares, muy específicas.


En estos momentos no tenemos una IA general que sea capaz de dar una respuesta en cualquier escenario”


Cierto.

Por ejemplo, en Appeal Sciences el algoritmo es capaz de detectar cuándo la protección empieza a desaparecer y la fruta se empieza a pudrir. Estamos creando algoritmos que son muy buenos en una cosa. Es como si enseñas a un algoritmo a picar piedra, pero de picar piedra no lo puedes trasladar automáticamente a pintar un cuadro, porque las técnicas que tiene que aprender son tan distintas, de otro dominio, que le llevaría mucho tiempo.





Entiendo.

Ahora están apareciendo casos que combinan dos o tres cosas al mismo tiempo, pero eso no significa que tenga el dominio de cualquier escenario como tenemos los humanos. Yo ahora estoy hablando, cuando lo hago a menudo camino, y gesticulo. O cuando vamos por la calle somos capaces de reaccionar si nos viene de frente una bicicleta, o si nos tenemos que parar en un semáforo de peatones, o acelerar si se va a poner en rojo cuando estamos cruzando, y además lo hacemos de una manera precisa: nadie nos dice ‘ponte ya ahora a 30 km/h para cruzar antes de que lleguen los coches’.


Estamos creando algoritmos que son muy buenos en una cosa”


Está claro.

Nadie nos ha entrenado para apartarnos si vemos que viene un tranvía, pero lo hacemos. No tenemos que estar preentrenados. Pero muchos de estos algoritmos se fundamentan en la necesidad de ese preentrenamiento con ejemplos anteriores para saber qué tienen que hacer y cómo. Diría que estamos lejos del punto de la singularidad. Veremos nuevos ejemplos, muy sofisticados, interesantes y espectaculares, como las máquinas que son mejores que las personas en diferentes juegos, como el Starcraft o el Go. Pero hemos de recordar que estos juegos tienen una limitación que no tiene la realidad.





Exacto.

El jugador puede hacer una serie de movimientos limitados, además hay unas reglas muy precisas dentro del universo del juego. En eso sí que son muy buenas las máquinas. En escenarios finitos, son capaces de identificar todas las cosas que pueden suceder en ese contexto. Pero claro, en un escenario tan abierto como es la realidad…


Diría que estamos lejos del punto de la singularidad”


¿Cómo se imagina la coexistencia entre el hombre y la máquina?

Lo que hay que tener claro es que hay distintos tipos de inteligencia y que no podemos evaluar la inteligencia de otra entidad, en este caso artificial, con los mismos parámetros con los que analizamos otras. Quizás, cuando llegue la singularidad, estaremos ante un tipo diferente de inteligencia y deberemos de entender primero de qué tipo es. También tendremos que establecer formas de interacción, de comunicación y, sobre todo, conocer cuál es el rol de estas nuevas inteligencias dentro del contexto de nuestra sociedad.

El problema quizás sea que estamos muy influenciados por Hollywood. Películas como ‘Ex Machina’ dan algo de vértigo…

Los escenarios que dibuja Hollywood magnifican alguno de nuestros miedos. En Ex Machina se genera una inteligencia, pero en lugar de intentar tener una aproximación respecto a ella, la encierran: no la entiendo, la encierro. Y el desenlace de la película forma parte de la obviedad.


Tendremos que establecer el rol de estas nuevas inteligencias dentro del contexto de nuestra sociedad”


Claro.

En general, las películas abordan la inteligencia artificial desde una perspectiva negativa. En la saga La Fundación de Isaac Asimov, los robots tienen un lugar concreto dentro de la sociedad. En ese libro, los robots se rigen por varias leyes, y la más importante es no hacer daño a la humanidad. El libro plantea la hipótesis de que si algún día existieran robots que llegaran al punto de la singularidad y éstos tuvieran ciertas nociones sobre conceptos éticos, no respecto a ellos mismos sino a otros tipos de inteligencia como la humana, en ese caso se daría una coexistencia normal.

Pero a los humanos ya nos cuesta coexistir con nuestros semejantes.

En caso de llegar a la singularidad, mi preocupación radica más en si los humanos habremos llegado a tener una coexistencia pacífica entre nosotros dentro de unos valores éticos.


Diferentes tipos de inteligencia permiten generar un cierto tipo de valor complementario entre ellas”


No me extraña.

Me preocupa más cómo nos comportamos nosotros que las futuras inteligencias que pueda haber dentro de unos años. Lo que hemos de reconocer es que diferentes tipos de inteligencia permiten generar un cierto de tipo de valor complementario entre ellas.

Tiene sentido.

Una de las cosas que tiene el ser humano es la capacidad de imaginar, de inventar escenarios y mundos nuevos. Y eso las máquinas no pueden hacerlo todavía, y no sabemos si algún día podrán hacerlo. ¿Por qué? Porque la aproximación que estamos utilizando actualmente está mucho más fundamentada en utilizar los datos y su contenido para que las máquinas sean capaces de identificar qué tienen que hacer. Y de ahí se deriva una cuestión muy importante: los datos son reflejo de lo que ha pasado, no de lo que podría pasar y no ha pasado.


El ser humano tiene la capacidad de imaginar, y eso las máquinas no pueden hacerlo todavía, y no sabemos si algún día podrán”


Entiendo.

Eso lo podemos imaginar como personas humanas. En matemáticas, hay disciplinas que se preocupan más de estas cosas. Los humanos nos podemos imaginar escenarios que no han ocurrido y preguntarnos: ‘y si en lugar de hacer esto hubiéramos hecho lo otro, ¿qué habría sucedido?’. Los algoritmos que actualmente usamos, fundamentados en datos, no pueden responder a esta pregunta.

¿Hay que poner límites a la IA? Y si tiene que ser así, ¿quién los tiene que implantar?

Es algo que se está discutiendo. Deben de haber unos principios detrás del diseño de aplicaciones de machine learning e IA. Y estos principios tienen que seguir la idea de lo que se conoce como FAT.

Este experto en IA cree que se está lejos todavía del punto de la singularidad
Este experto en IA cree que se está lejos todavía del punto de la singularidad
(Kerry Parke)

FAT…

Tiene un nombre muy divertido. Es un acrónimo que hace referencia a Fairness (justicia), a Acountability (responsabilidad) y a Transparency (transparencia). Yo añado una cuarta letra a menudo.

Cuál.

La letra i de Interpretability (interpretación). La mejor manera para que nosotros aceptemos más el uso de algoritmos en la sociedad es que tengamos muy claro ciertas cosas. Cuánto más informada esté la decisión del algoritmo, más fácil será que nosotros entendamos por qué tiene sentido introducirlo y cuál es el valor que aporta.




Fuente: LA Vanguardia

A %d blogueros les gusta esto: