Elaboración y validación de un marco ético para la inteligencia artificial en la educación: el caso del contexto marroquí
Barra lateral del artículo
Contenido principal del artículo
Resumen
Este artículo presenta el desarrollo de un marco ético diseñado para guiar el uso de la inteligencia artificial (IA) en la educación, con un énfasis particular en el contexto marroquí. La metodología adoptada incluye una revisión exhaustiva de la literatura sobre ética en loscampo de la IA y la educación y específicamente dentro del contexto marroquí. Esta literatura fue procesada y analizada utilizando los softwares Nvivo y Tropes. Posteriormente, se realizó una encuesta a actores clave, como docentes-investigadores, ingenieros en IA y responsables de la educación superior, con el objetivo de validar el marco ético elaborado. Los resultados de la encuesta se analizaron utilizando la herramienta estadística SPSS para definir los indicadores éticos prioritarios. El marco ético resultante tiene como objetivo guiar a los docentes y a los responsables de la toma de decisiones hacia prácticas educativas éticas, teniendo en cuenta las especificidades culturales y sociales de Marruecos.
Detalles del artículo
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
Citas
Abrassart, C., Bengio, Y., Chicoisne, G., Marcellis-Warin, N., Dilhac, M., A., Gambs, S., Gautrais, V., Gibert, M., Langlois, L., Laviolette, F., Lehoux, P., Maclure, J., Martel, M., Pineau, J., Railton, P., Régis, C., Tappolet, C., et Voarino, N. (2018). La déclaration de Montréal pour un développement responsable de l’intelligence artificielle. Université de Montréal. https://tinyurl.com/mrxkzbwt
Advoc (2023). Morocco: Artificial intelligence in the moroccan legal framework. The international network of independent law firms. https://www.advoc.com/news/morocco-artificial-intelligence-in-the-moroccan-legal-framework
Agence de Développement du Digital. (2019). Programme AL-KHAWARIZMI. ADD – Agence de Développement du Digital. https://www.add.gov.ma/programme-al-khawarizmi
Ahajjam, T., Moutaib M., Haida,r A., et Azrour, M. (2022). Predicting Students’ Final Performance Using Artificial Neural Networks. Big Data Mining and Analytics, 5(4). https://doi.org/10.26599/BDMA.2021.9020030
AI HLEG (2019). Ethics guidelines for trustworthy AI. Shaping Europe’s digital future. European Commission.
https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
AI4K12 (2021). Building Capacity for K-12 ArtificialIntelligence Education Research. https://ai4k12.org/. https://ai4k12.org/wp-content/uploads/2021/09/AI4K12-Initiative-ISAS-2021.09.13.pdf
Alghayam, S., Al Zahraa Al Shabani, F. et Al Kaderi, M. (2014). Compendium country profile policy in Morocco. ARCP.
https://www.culturalpolicies.net/wp-content/uploads/2019/10/morocco_full_profile_2014.pdf
Akkour, S., HaounanI A., et Assadi, F. (2023). La protection des données personnelles face à l’intelligence artificielle. Revue Internationale du Chercheur, 4(3). https://revuechercheur.com/index.php/home/article/view/665/579
Bachiri, Y. A., et Mouncif H. (2023). Artificial Intelligence System in Aid of Pedagogical Engineering for Knowledge Assessment on MOOC Platforms: Open EdX and Moodle. International Journal of Emerging Technologies in Learning, 18(5). https://doi.org/10.3991/ijet.v18i05.36589
Belouali, S., Demazeau, Y., Bouchentouf, T., et Brahmi, H. (2022). Interrogation de l’universalité d’une éthique pour l’usage de l’IA au travers d’une lecture du code publié par Dubaï. Revue éthique & numérique, 1(1), 1-18. https://revues.imist.ma/index.php/Ethique-et-Numerique/article/view/31245/16142
Belouali, S., Belouali, A., Saber, M., Jaafar, K., et Belkasmi, M. G. (2020). Ethics of AI or ethical AI, topical point of view. Dans A. El Moussati, K. Kpalma, M. Ghaouth Belkasmi, M. Saber, S. Guégan, (dir.). Advances in Smart Technologies Applications and Case Studies. SmartICT 2019. Lecture Notes in Electrical Engineering, 684, 535 540. https://doi.org/10.1007/978-3 de -030-53187-4_58
Benanti, P. (2020). Algor-éthique : Intelligence artificielle et reflexion éthique. Revue d’éthique et de théologie morale, 307(3), 93. https://doi.org/10.3917/retm.310.0093
Bendahan, M., et Akhiate, Y. (2020). Religious Media in the Maghreb: What Are the Boundaries between the Public and Private Spheres. Religions, 11(12), 638. https://doi.org/10.3390/rel11120638
Bendourou, O. (2012). La nouvelle Constitution marocaine du 29 juillet 2011. Revue française de droit constitutionnel, 3(91), 511-535. https://www.cairn.info/revue-francaise-de-droit-constitutionnel-2012-3-page-511.htm
Bensaleh, M. (2021). Toward an ethical code of AI and human rights in Morocco. Arribat – International Journal of Human Rights, 1(2).
Billier, J. (2014). Introduction à l’éthique. PUF.
Bonnet, G. (2020). Éthique et explicabilité en intelligence artificielle. Santé connectée, 65-84. https://books.openedition.org/editionscnrs/45562?lang=en
Bulletin officiel n° 5714 - 7 rabii I 1430 (5-3-2009). (2009). Loi n° 09-08 relative à la protection des personnes physiques à l’égard du traitement des données à caractère personnel.
https://www.cndp.ma/wp-content/uploads/2023/11/Loi-09-08-Fr.pdf
Chawla, L. (2020). Childhood nature connection and constructive hope: A review of research on connecting with nature and coping with environmental loss. People and Nature, 2(3), 619-642. https://besjournals.onlinelibrary.wiley.com/doi/full/10.1002/pan3.10128
CNDP. (2022). Textes et Lois. https://www.cndp.ma/decret-n-2-09-165/
Creswell, J. W. (2014). Research design: Qualitative, quantitative, and mixed methods approaches. SAGE.
De Lange, C. (2015). Welcome to the bionic dawn. New Scientist, 227(3032), 24-25.
https://doi.org/10.1016/s0262-4079(15)30881-2
Denzin, N., et Lincoln, Y. S. (2018). Handbook of Qualitative Research (5th ed.). Sage.
DGSSI. (2023). Textes législatifs et réglementaires | DGSSI.
https://www.dgssi.gov.ma/fr/textes-legislatifs-et-reglementaires
Dignum, V. (2021). The role and challenges of education for responsible AI. London Review of Education, 19(1). https://doi.org/10.14324/lre.19.1.01
Du Boulay, B. (2023). Artificial Intelligence in Education and Ethics. Dans Zawacki-Richter, O., Jung, I. (dir.) Handbook of Open, Distance and Digital Education (p. 93-108). Springer. https://doi.org/10.1007/978-981-19-2080-6_6
El Kaddioui El Idrissi, S., et Jabraoui, S. (2023). Les effets de l’intelligence artificielle : une revue de littérature. La revue marocaine de la prospective en sciences de gestion. https://revues.imist.ma/index.php/RMPSG/article/view/32271/16778
Ezzaim A., Kharroubi F., Dahbi A., Aqqal A., et Haidine A. (2022). Artificial intelligence in education – State of the art. International Journal of Computer Engineering and Data Science, 2(2). https://www.ijceds.com/ijceds/issue/view/3
Felder, J. (2019). Environnement personnel d’apprentissage et autonomie de l’apprenant [thèse de doctorat, Université de Fribourg, Suisse. Folia. https://folia.unifr.ch/unifr/documents/308568
Foltynek, T., Bjelobaba, S., Glendinning, I., Khan, Z. R., Santos, R., Pavletic, P., et Kravjar, J. (2023). ENAI recommendations on the ethical use of artificial intelligence in education. International Journal for Educational Integrity, 19(1). https://edintegrity.biomedcentral.com/articles/10.1007/s40979-023-00133-4
Fondation Pierre Elliott Trudeau (2020). Technologie et éthique : l’être humain au prisme des avancées en génétique, en biotechnologie et en intelligence artificielle. Technologie et éthique, 1-20. https://www.fondationtrudeau.ca/sites/default/files/2020-02/TechnologyEthicsFinalFR.pdf
G20. (2020). G20 AI principles. "The World and Japan" Database. Retrieved September 2022, from https://worldjpn.net/documents/texts/G20/20190609.O3E.html
G7. (2018). Charlevoix Common Vision for the Future of Artificial Intelligence. Ministry of Foreign Affairs of Japan. https://www.mofa.go.jp/files/000373837.pdf
Goglin, C. (2022, 30 mars). L’explicabilité de l’IA : un problème éthique mais pas seulement…. Management & Data Science. https://management-datascience.org/articles/19856/
Grandmontagne, Y. (2021, March). Maroc : l’UM6P inaugure son data center et le plus puissant supercalculateur d’Afrique. Data Center Magazine. https://datacenter-magazine.fr/maroc-lum6p-inaugure-son-data-center-et-le-plus-puissant-supercalculateur-dafrique/
Hajji, S. (2023). Educational sovereignty and artificial intelligence challenges: The case of Morocco. Dans F. Roumate, Artificial Intelligence in Higher Education and Scientific Research (p. 101-116).
https://doi.org/10.1007/978-981-19-8641-3_8
Haut Commissariat au Plan. (2023). Rapport de veille sur l’intelligence artificielle du mois d’Avril 2023. https://cnd.hcp.ma/Rapport-de-veille-sur-l-intelligence-artificielle-du-mois-d-Avril-2023_a1550.html
Holmes, W., Porayska-Pomsta, K., Holstein, K., Sutherland, E., Baker, T., Shum, S. B., Santos, O. C., Rodrigo, M. T., Cukurova, M., Bittencourt, I. I., et Koedinger, K. R. (2021). Ethics of AI in Education: Towards a Community-Wide Framework. International Journal of Artificial Intelligence in Education, 32(3), 504-526. https://doi.org/10.1007/s40593-021-00239-1
Holthaus, M., Hirt, F., et Bergamin P. (2018). Simple and Effective: An Adaptive Instructional Design for Mathematics Implemented in a Standard Learning Management System. Proceedings of the 2nd International Conference on Computer-Human Interaction Research and Applications pages, (1), 116-126. https://doi.org/10.5220/0006927601160126
ICTVET (2021). Comprendre l’impact de l’intelligence artificielle sur Le développement des compétences. UNESCO Publishing. https://unesdoc.unesco.org/ark:/48223/pf0000378935
IEEE (2019). Ethically Aligned Design: A Vision for Prioritizing Humain Well-being (1st ed.). Advancing Technology for Humanity. https://algorithmwatch.org/de/wp-content/uploads/2019/03/IEEE-EAD1e.pdf
Ismaili, A. A., et Ben Abdellah, S. M. (2021). ICT Use in the EFL Classroom in Morocco: EFL Teachers’ Personal and Technology-Related Variables. International Journal of Information and Communication Technology Education, 18(1). https://www.igi-global.com/pdf.aspx?tid=286759&ptid=277495&ctid=4&oa=true&isxn=9781799893561
Jackson, K., et Bazeley, P. (2013). Qualitative data analysis with NVivo (2nd ed.). SAGE.
Jaldi, A. (2023). Artificial Intelligence Revolution in Africa: Economic Opportunities and Legal Challenges. Policy Center for the New South, 13-23. https://www.policycenter.ma/sites/default/files/2023-07/PP_13-23%20%28Jaldi%20%29.pdf
Jaldi, A. (2022). L’intelligence artificielle au Maroc : entre encadrement réglementaire et stratégie économique. Policy Center for the New South, 59(22). https://tinyurl.com/mr3fhktv
Jmoula, L., et Belouali S. (2022). L’intelligence artificielle et le traitement des données massives de l’université marocaine : perspectives, risques et enjeux éthiques. Journal of Information Science, 21(2). https://revues.imist.ma/index.php/JIS/article/view/36624/20267
Jobin, A., Ienca, M., et Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9), 389-399. https://doi.org/10.1038/s42256-019-0088-2
Johnson, D. G. (1985). Communications of the ACM. Computer ethics, 28(6), 606-611.
Le Coz, P. (2020). Éthique et intelligence artificielle. Annales d’Endocrinologie, 81(4), 129. https://doi.org/10.1016/j.ando.2020.07.007
Lombardo, É., et Agostinelli, S. (2021). Éthique et intelligence artificielle, entre problèmes et solution. Management des technologies organisationnelles (MTO), 13(2), 159-169. https://doi.org/10.3917/mto.013.0159
Mayer-Schönberger, V., et Cukier, K. (2013). Big Data: A Revolution That Will Transform How We Live, Work, and Think. Houghton Mifflin Harcourt. https://doi.org/10.1093/aje/kwu085
Mbaye, K. (2023, 27 avril). Abdellatif Miraoui: Face à l’IA et aux évolutions technologiques, il est important de concevoir des formations évolutives et adaptatives aux nouveaux besoins. Interview. Les inspiration Éco. https://tinyurl.com/mr355rbp
Menchafou, Y., Aaboud, M., et Chekour, M. (2023). Effectiveness of Real and Computer-Assisted Experimental Activities in Moroccan Secondary School Physics Education. Internation Journal of Interactive Mobile Technologies, 7(16). https://online-journals.org/index.php/i-jim/article/view/39267/13737
Nemar, H. (2021). La dimension éthique de l’université Marocaine. La Revue Marocaine de la Pensée Contemporaine, (8). https://revues.imist.ma/index.php/RMPC/article/download/27161/14168
NHRC (2021). Artificial intelligence and human rights: Organization, ethics and guiding principles an international benchmark. National Human Rights Council.
OCDE (2019). Les Principes sur l’Intelligence Artificielle (IA) de l’OCDE. The OECD Artificial Intelligence Policy Observatory - OECD.AI. https://oecd.ai/fr/ai-principles
Orsini, A. (2017). Les « 23 principes d’Asilomar » veulent encadrer le développement de l’intelligence Numerama. https://tinyurl.com/725fe9jw
Puech, M. (2016). Une éthique de sagesse pour l’ère de la technologie : pourquoi et surtout comment? Revue française d’éthique appliquée, 1(1), 113-117. https://shs.cairn.info/article/RFEAP_001_0113/pdf?lang=fr
Racocenean, D., Ounissi, M., Yannick, L., et Kergosien, L. (2022, 10 décembre). Explicabilité en intelligence artificielle : vers une IA Responsable – Instanciation dans le domaine de la santé. Techniques de l’Ingénieur. https://doi.org/10.51257/a-v1-h5030
Ritchie, J., Lewis, J., Nicholls, C. M., et Ormston, R. (2013). Qualitative research practice: A guide for social science students and researchers. SAGE.
Roumate, F. (2021). Artificial Intelligence, Ethics and International Human Rights Law. International Review of Information Ethics, 29. https://informationethics.ca/index.php/irie/article/view/422/399
Schmid, A. F. (2019). L’Âge de l’épistémologie. Kimé.
Selwyn, N. (2019). Should robots replace teachers? AI and the future of education. John Wiley & Sons.
Skrebers, A. (2022). Intelligence artificielle et droit d’auteur. Dans A. Mendoza-Caminade (dir.), L’entreprise et l’intelligence artificielle - Les réponses du droit. Presses de l’Université Toulouse Capitole, 277-295. https://doi.org/10.4000/books.putc.15415
UNESCO (2021). Recommandation sur l’éthique de l’intelligence artificielle. https://unesdoc.unesco.org/ark:/48223/pf0000380455_fre.locale=fr
Ungerer, L., et Slade, S. (2022). Ethical Considerations of Artificial Intelligence in Learning Analytics in Distance Education Contexts. Learning Analytics in Open and Distributed Learning, 105-120.
http://doi.org/10.1007/978-981-19-0786-9_8
Université d’Helsinki (2021, August). The philosophy and ethical principles of teaching at the University of Helsinki. Instructions for teaching.
Villani, C., Bonnet, Y., Berthet, C., Levin, F., Schoenauer, M., Cornut, A. C., et Rondepierre, B. (2018). Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne. Conseil national du numérique.
Winner, L. (1980). Do artifacts have politics? Daedalus, 109(1), 121-136. https://faculty.cc.gatech.edu/~beki/cs4001/Winner.pdf
Zahour, O., Benlahmar, E. H., Eddaoui, A., Ouchra, H., et Hourrane, O. (2020). Towards a chatbot for educational and vocational guidance in Morocco: Chatbot E-orientation. International Journal of Advanced Trends in Computer Science and Engineering, 9(2), 2479-2487. https://doi.org/10.30534/ijatcse/2020/237922020
Zaiker, Y. (2023). La digitalisation de l’enseignement-apprentissage des langues étrangères entre éthique et esthétique : cas de FLE. LaRSAM, 7. https://doi.org/10.34874/IMIST.PRSM/larslam-i7.43593
Zawacki-Richter, O., Marín, V. I., Bond, M., et Gouverneur, F. (2019). Systematic review of research on artificial intelligence applications in higher education – where are the educators? International Journal of Educational Technology in Higher Education, 16(1). https://doi.org/10.1186/s41239-019-0171-0
Zhu, H. (2020). Big data and artificial intelligence modeling for drug discovery. Annual Review of Pharmacology and Toxicology, 60(1), 573-589. https://doi.org/10.1146/annurev-pharmtox-010919-023324