La IA y el límite de la comprensión científica
DOI:
https://doi.org/10.59741/agraria.v23i3.787Palabras clave:
inteligencia artificial, redes neuronales, representaciones, interpretabilidad, inteligencia artificial explicableResumen
Podemos describir cada operación de una red neuronal, calcular sus errores y modificar sus parámetros. Sin embargo, cuando preguntamos qué aprendió para reconocer un rostro, una enfermedad o un objeto, la respuesta deja de ser evidente. Este artículo explora esa diferencia. A partir del análisis de imágenes, muestra cómo una red construye representaciones a lo largo de sus capas y por qué conocer el valor de sus parámetros no basta para interpretar una decisión. También presenta métodos que permiten estudiar esas representaciones y examina el alcance de las explicaciones obtenidas mediante ellos. Así, plantea que el límite de nuestra comprensión no es el mismo para todas las preguntas: una interpretación puede resultar útil para entender una operación del modelo y ser insuficiente para justificar una decisión en el contexto donde se aplica.
Descargas
Referencias
Bau, D.; Zhou, B.; Khosla, A.; Oliva, A.; Torralba, A. (2017). Network dissection: Quantifying interpretability of deep visual representations. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 6541–6549. https://doi.org/10.1109/CVPR.2017.354
Elhage, N.; Hume, T.; Olsson, C.; Schiefer, N.; Henighan, T.; Kravec, S.; Hatfield-Dodds, Z.; Lasenby, R.; Drain, D.; Chen, C.; Grosse, R.; McCandlish, S.; Kaplan, J.; Amodei, D.; Wattenberg, M.; Olah, C. (2022). Toy models of superposition. Transformer Circuits Thread [en línea]. Disponible en: https://transformer-circuits.pub/2022/toy_model/index.html (consulta: 22 de septiembre de 2026).
LeCun, Y.; Bengio, Y.; Hinton, G. (2015). Deep learning. Nature, 521, 436–444. https://doi.org/10.1038/nature14539
Lipton, Z. C. (2018). The mythos of model interpretability. Communications of the ACM, 61(10), 36–43. https://doi.org/10.1145/3233231
Olah, C.; Mordvintsev, A.; Schubert, L. (2017). Feature visualization. Distill, 2(11), e7. https://doi.org/10.23915/distill.00007
Pelley, S. (2024, 16 de junio). “Godfather of Artificial Intelligence” Geoffrey Hinton on the promise, risks of advanced AI. CBS News, 60 Minutes [en línea]. Disponible en: https://www.cbsnews.com/news/geoffrey-hinton-ai-dangers-60-minutes-transcript/
Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1, 206–215. https://doi.org/10.1038/s42256-019-0048-x
Zeiler, M. D.; Fergus, R. (2014). Visualizing and understanding convolutional networks. En Fleet, D.; Pajdla, T.; Schiele, B.; Tuytelaars, T. (eds.), Computer Vision – ECCV 2014 (pp. 818–833). Cham: Springer. https://doi.org/10.1007/978-3-319-10590-1_53
Stacke, K.; Eilertsen, G.; Unger, J.; Lundström, C. (2021). Measuring domain shift for deep learning in histopathology. IEEE Journal of Biomedical and Health Informatics, 25(2), 325–336. https://doi.org/10.1109/JBHI.2020.3032060
Descargas
Publicado
Número
Sección
Licencia
Derechos de autor 2026 Universidad Autónoma Agraria Antonio Narro
Esta obra está bajo una licencia internacional Creative Commons Atribución-CompartirIgual 4.0.
Cómo citar
PLUMX Metrics
