Keywords
AI-Literacy
meta-competences
competencies
agency
Educational Processes
Bias
discrimination
Critical Thinking
trust
ChatGPT
How to Cite
License
Copyright (c) 2024 Kerstin Raudonat, Elisabeth Mayweg
This work is licensed under a Creative Commons Attribution 4.0 International License.
Abstract
Digitalization is characterized by algorithmic structures in which constantly diversifying AI technologies play an important role. To what extent is it possible – under the premise of post-digitality – to deal with corresponding systems in a self-determined and appropriate way in the flow of changing technologies? In the context of rapid and diverse technological developments, relevant competences must be considered in particular at the level of meta-competences. At the same time, existing social inequalities and barriers to the ability of individuals to act are inscribed in these technically conditioned structures and raise questions with regard to the design of educational processes and the designs of future systems. Against this background, we discuss meta-competences in two sub-areas of digitization: (1) in teaching and learning how to use AI technologies using the example of ChatGPT and (2) on the part of information technology developers.
References
Aljazzaf, Zainab M., Mark Perry, und Miriam A.M. Capretz. 2010. «Online trust: Definition and principles». Fifth International Multi-conference on Computing in the Global Information Technology: 163–68. IEEE.
Bailin, Sharon. 2002. «Critical Thinking and Science Education». Science & Education, 11, 4: 361–75. https://doi.org/10.1023/A:1016042608621.
Bath, Corinna. 2009. De-Gendering informatischer Artefakte: Grundlagen einer kritisch-feministischen Technikgestaltung. Staats- und Universitätsbibliothek Bremen.
Berendt, Bettina, Allison Littlejohn und Mike Blakemore. 2020. «AI in education: learner choice and fundamental rights». Learning, Media and Technology 45, 3: 312–24, https://doi.org/10.1080/17439884.2020.1786399.
bidt (Bayrisches Forschungsinstitut für Digitale Transformation). 2023. «Was ist eigentlich … ChatGPT?». https://www.bidt.digital/was-ist-eigentlich-chatgpt.
Bohnet, Iris. 2016. What works: Gender equality by design. Cambridge, Massachusetts: Harvard University Press.
Brandhofer, Gerhard, und Christian Wiesner 2018. «Medienbildung im Kontext der Digitalisierung: Ein integratives Modell für digitale Kompetenzen. » R&E Source 10 (10/2018): 1–15.
Bromme, Rainer, E. Thomm, und V. Wolf. 2013. «Scientific understanding: from a cognitive disposition to knowledge about science in the real world». Manuscript submitted for publication.
Bromme, Rainer, und Susan R. Goldman. 2014. «The Public’s Bounded Understanding of Science». Educational Psychologist 49 (2): 59–69. https://doi.org/10.1080/00461520.2014.921572.
Byrnes, James P., und Kevin N. Dunbar. 2014. «The Nature and Development of Critical Analytic Thinking». Educational Psychology Review 26 (4): 477–93. https://doi.org/10.1007/s10648-014-9284-0.
Casal-Otero, Lorena, Alejandro Catala, Carmen Fernández-Morante, Maria Taboada, Beatriz Cebreiro, und Senén Barro. 2023. «AI literacy in K-12: a systematic literature review». International Journal of STEM Education 10 (1): 29.
Csanadi, Andras, Ingo Kollar, und Frank Fischer. 2020. «Pre-service teachers’ evidence-based reasoning during pedagogical problem-solving: better together?». European Journal of Psychology of Education 36 (1): 147–68. https://doi.org/10.1007/s10212-020-00467-4.
Doleck, Tenzin, Paul Bazelais, David John Lemay, Anoop Saxena, Ram Basnet. 2017. «Algorithmic thinking, cooperativity, creativity, critical thinking, and problem solving: exploring the relationship between computational thinking skills and academic performance». Journal of Computers in Education 4: 1–15.
Draude, Claude .2001. «Introducing Cyberfeminism». Nylon 2001 (3): 22–24.
Draude, Claude. 2020. … but how do you formalize it? – Gender Studies als konstruktive Intervention in der Informatik. In Gender (&) Design – Positionen zur Vergeschlechtlichung in Gestaltungskulturen, herausgegeben von Tom Bieling, 179–95. Sesto San Giovanni: Mimesis International.
Dzindolet, Mary T., Scott A. Peterson, Regina A. Pomranky, Linda G. Pierce, und Hall P. Beck. 2003. «The role of trust in automation reliance». International journal of human-computer studies 58 (6): 697–718.
Eickelmann, Birgit, Wilfried Bos, Julia Gerick, Frank Goldhammer, Heike Schaumburg, Knut Schwippert, Martin Senkbeil, und Jan Vahrenhold, Hrsg. 2019. ICILS 2018.#Deutschland. Computer- und informationsbezogene Kompetenzen von Schülerinnen und Schülern im zweiten internationalen Vergleich und Kompetenzen im Bereich Computational Thinking. Münster, New York: Waxmann.
Engel, Juliane, Elisabeth Mayweg, und Anna Carnap. 2022. «Postdigital Bedingte Souveränität: Zum Wandel Von Handlungsmächtigkeit Aus Erziehungswissenschaftlicher Perspektive». merz | medien + erziehung 66 (6): 13-26. https://doi.org/10.21240/merz/2022.6.2.
Ennis, Robert. 1991. «Critical Thinking: A Streamlined Conception». Teaching Philosophy 14, 1: 5–24. https://doi.org/10.5840/teachphil19911412.
Europäische Kommission. 2018. «Künstliche Intelligenz für Europa». https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=COM%3A2018%3A237%3AFIN.
Europäische Kommission. 2018. «Koordinierter Plan für künstliche Intelligenz». https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=COM%3A2018%3A795%3AFIN.
Europäische Kommission. 2021. «Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union». https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=CELEX:52021PC0206&from=EN.
Faust, Anna, und Elisabeth Mayweg-Paus. 2024. Empowering Tomorrow’s Minds: A Comprehensive Framework for Teaching Non-Technical Students to Think Critically about AI. In Artificial Intelligence Applications in Higher Education. Theories, Ethics, and Case Studies for Universities, herausgegeben von Helen Crompton und Diane Burke. New York/London: Routledge Taylor & Francis Group.
Felton, Mark, und Deanna Kuhn. 2001. «The Development of Argumentative Discourse Skill». Discourse Processes 32 (2–3): 135–53.
Fisher, Alec .2011. Critical Thinking: An Introduction. Cambridge:Cambridge University Press.
Fook, Jan, Val Collington, Fiona Ross, Gilian Ruch und Linden West. 2016. Researching Critical Reflection. Multidisciplinary Perspectives. London, New York: Routledge.
Fritsch, Katrin, und Helene von Schwichow. 2021. «Künstliche Intelligenz und Feminismus: Aktuelle Debatten. Eine Expertise im Rahmen des Projekts KI Thinktank Female Entrepreneurship (KITE)». https://www.kite-bga.de/expertisen/.
Fulkerson, Diane, Susan Andriette Ariew, und Trudi Jacobson. 2017. «Revisiting Metacognition and Metaliteracy in the ACRL Framework». Communications in Information Literacy 11 (1). https://doi.org/10.15760/comminfolit.2017.11.1.45.
Gajjala, Radhika, und Annapurna Mamidipudi. 1999. «Cyberfeminism, Technology, and International ‹Development›». Gender and Development 7 (2): 8–16. https://doi.org/ https://doi.org/10.1080/74192312210.1080/741923122.
Glikson, Ella, und Anita Williams Woolley. 2020. «Human trust in artificial intelligence: Review of empirical research». Academy of Management Annals 14 (2): 627–60.
Halpern, Diane F. 1998. «Teaching critical thinking for transfer across domains: Disposition, skills, structure training, and metacognitive monitoring». American psychologist 53 (4): 449–55. https://doi.org/10.1037/0003-066X.53.4.449.
Hendriks, Friederike, Dorothe Kienhues, und Rainer Bromme. 2015. «Measuring Laypeople’s Trust in Experts in a Digital Age: The Muenster Epistemic Trustworthiness Inventory (METI)». PLOS ONE 10. https://doi.org/10.1371/journal.pone.0139309.
Hengstler, Monika, Ellen Enkel, und Selina Duelli. 2016. «Applied artificial intelligence and trust The case of autonomous vehicles and medical assistance devices». Technological Forecasting and Social Change 105: 105–20.
Hester, Helen. 2018. Xenofeminism. Cambridge: Polity Press.
Hoff, Kevin Anthony, und Masooda Bashir. 2015. «Trust in automation: Integrating empirical evidence on factors that influence trust». Human factors 57 (3): 407–34.
Holtzblatt, Karen, und Nicola Marsden. 2022. Retaining Women in Tech – Shifting the Paradigm. Berlin: Springer.
Hornberger, Marie, Arne Bewersdorff und Claudia Nerdel. 2023. «What do university students know about Artificial Intelligence? Development and validation of an AI literacy test». Computers and Education: Artificial Intelligence 5, 2023: 100165.
Hyytinen, Heidi, Katariina Holma, Auli Toom, Richard J. Shavelson, und Sari Lindblom-Ylanne. 2014. «The Complex Relationship between Students’ Critical Thinking and Epistemological Beliefs in the Context of Problem Solving». Frontline Learning Research 2 (5): 1–25.
IEA. 2016. The IEA’s International Computer and Information Literacy Study (ICILS) 2018. «What’s next for IEA’s ICILS in 2018?». TC, 2017, 23 (1) 61.
John, June Park und Martin Carnoy. 2019. «The case of computer science education, employment, gender, and race/ethnicity in Silicon Valley, 1980–2015». Journal of Education and Work 32 (5): 421–35. https://doi.org/10.1080/13639080.2019.1679728.
Jones, Helen S., und Wendy Moncur. 2018. «The role of psychology in understanding online trust». In Psychological and Behavioral Examinations in Cyber Security, herausgegeben von John McAlaney, Lara A. Frumkin und Vladlena Benson 109–32. New York: IGI Global:
Jörissen, Benjamin. 2017. Subjektivation und «ästhetische Freiheit» in der post-digitalen Kultur. In Kulturelle Bildung online. https://doi.org/10.25529/92552.421
Jucks, Regina, und Elisabeth Paus. 2013. «Different Words for the Same Concept: Learning Collaboratively From Multiple Documents». Cognition and Instruction 31 (2): 227–54. https://doi.org/10.1080/07370008.2013.769993.
Kaplan, Alexandra, Theresa T. Kessler, J. Christopher Brill, und Peter A. Hancock. 2023. «Trust in Artificial Intelligence: Meta- Analytic Findings». Human factors 65 (2): 337–59. https://doi.org/10.1177/00187208211013988.
Katai, Zoltan. 2015. «The challenge of promoting algorithmic thinking of both sciences- and humanities-oriented learners». Journal of Computer Assisted Learning 31, 4: 287–99. https://doi.org/10.1111/jcal.12070.
Kaur, Davinder, Suleyman Uslu, Kaley J. Rittichier, und Arjan Durresi. 2022. «Trustworthy artificial intelligence: a review». ACM Computing Surveys (CSUR) 55 (2): 1–38.
Kerres, Michael. 2020. «Bildung in der digitalen Welt: Über Wirkungsannahmen und die soziale Konstruktion des Digitalen». MedienPädagogik: Zeitschrift für Theorie und Praxis der Medienbildung 17 (Jahrbuch Medienpädagogik): 1–32. https://doi.org/10.21240/mpaed/jb17/2020.04.24.X.
Khan, Methab und Alex Hanna. 2023. «The Subjects and Stages of AI Dataset Development: A Framework for Dataset Accountability». Forthcoming 19 Ohio St. Tech. L. J. https://doi.org/10.2139/ssrn.4217148.
KMK – Ständige Konferenz der Kultusminister in der Bundesrepublik Deutschland. 2021. «Lehren und Lernen in der digitalen Welt: Ergänzung zur Strategie der Umgang mit Online-Informationen an der Hochschule 131 Kultusministerkonferenz ‹Bildung in der digitalen Welt› (Beschluss der Kultusministerkonferenz vom 09.12.2021)» https://www.kmk.org/fileadmin/veroeffentlichungen_beschluesse/2021/2021_12_09-Lehren-und-Lernen-Digi.pdf.
Köchling, Alina und Marius Claus Wehner. 2020. «Discriminated by an algorithm: A systematic review of discrimination and fairness by algorithmic decision-making in the context of HR recruitment and HR development». Business Research 13 (3): 795–848. https://doi.org/10.1007/s40685- 020-00134-w.
Kuhn, Deanna. 1999. «A Developmental Model of Critical Thinking». Educational Researcher 28 (2): 16–46. https://doi.org/10.3102/0013189X028002016.
Kuhn, Deanna. 2016. «What Do Young Science Students Need to Learn About Variables?» Science Education 100 (2): 392–403. https://doi.org/10.1002/sce.21207.
Kundi, Bushra, Christo El Morra, Rachel Gormana, und Ena Dua. 2022. Artificial Intelligence and Bias: A Scoping Review. In AI and Society, herausgegeben von Christo El Morr, 199–215. https://doi.org/10.1201/9781003261247-15.
Lai, Emily R. 2011. «Critical thinking: A literature review». Pearson’s Research Report 6: 40–41.
Langer, Markus, Cornelius J. König, Caroline Back, und Victoria Hemsing. 2023. «Trust in Artificial Intelligence: Comparing trust processes between human and automated trustees in light of unfair bias». Journal of Business and Psychology 38 (3): 493–508.
Laupichler, Matthias Carl, Alexandra Aster, Jana Schirch, und Tobias Raupach. 2022. «Artificial intelligence literacy in higher and adult education: A scoping literature review». Computers and Education: Artificial Intelligence 3, 2022. https://doi.org/10.1016/j.caeai.2022.100101.
Long, Duri, und Brian Magerko .2020. «What is AI literacy? Competencies and design considerations». In Proceedings of the 2020 CHI conference on human factors in computing systems: 1–16.
Lucassen, Teun, und Jan Maarten Schraagen. 2011. «Factual accuracy and trust in information: The role of expertise». Journal of the American Society for Information Science and Technology 62, 7: 1232–1242.
Marsden, Nicola, und Raudonat, Kerstin. 2022. Nutzer:innenzentrierung und Verantwortung im Softwareentwicklungsprozess. In Anwendungsorientierte Hochschullehre zu Künstlicher Intelligenz, herausgegeben von Dana-Kristin Mah und Cordula Torner, 14–22. Berlin: KI-Campus.
Marsden, Nicola, Kerstin Raudonat, und Monika Pröbster. 2023. «Kreislauf der Diskriminierung – Gesellschaftliche Biases und Diskriminierung in IT-Systemen als wiederkehrender Kreislauf der (Re)Produktion sozialer Ungleichheiten». Frauen machen Informatik. Magazin der GI-Fachgruppe Frauen in der Informatik 47 (September): 1–24.
Mayweg-Paus, Elisabeth, Maria Zimmermann. 2022. Kritisches Denken beim Umgang mit Online-Informationen an der Hochschule. In Critical Thinking. Wissenschaftsforschung Jahrbuch 2021, hrsg v. Harald A. Mieg und Frank Havemann. Wissenschaftlicher Verlag Berlin.
Millar, Robin, und Jonathan Osborne. 1998. Beyond 2000: Science Education for the Future: The Report of a Seminar Series Funded by the Nuffield Foundation.London: King’s College.
Mishra, Ayaskanta, Amitkumar V. Jha, Bhargav Appasani, Arun Kumar Ray, Deepak Kumar Gupta, und Abu Nasar Ghazali. 2023. «Emerging technologies and design aspects of next generation cyber physical system with a smart city application perspective». International Journal of System Assurance Engineering and Management, 14, 3: 699–721.
Mucha, Henrik, Ana Correia de Barros, Jesse Josua Benjamin, Christoph Benzmüller, Andreas Bischof, Sandra Buchmüller, … Arne Berger. 2022. «Collaborative Speculations on Future Themes for Participatory Design in Germany». icom 21, 2. https://doi.org/10.1515/icom-2021-0030.
Mucha, Henrik, Franziska Maas, Claude Draude, Julia Stilke, Juliane Jarke, Andreas Bischof, … Susanne Maaß. 2021. «Partizipative & sozialverantwortliche Technikentwicklung». Mensch und Computer. Gesellschaft für Informatik. https://dl.gi.de/handle/20.500.12116/37337.
Naess, Arne. 1966. Communication and Argument Elements of Applied Semantics. Oslo: Universitätsforlaget.
Nass, Clifford, Jonathan Steuer, und Ellen R. Tauber. 1994. «Computers are social actors». CHI ‚94: Proceedings of the SIGCHI Conference on Human Factors in Computing Systems, Boston, MA, USA: 72–78.
Netzforma e.V. 2020. Wenn KI, dann feministisch. Berlin.
Newton, Paul, Rosalind Driver, und Jonathan Osborne. 1999. «The place of argumentation in the pedagogy of school science». International Journal of Science Education 21 (5): 553–76. https://doi.org/10.1080/095006999290570.
Ng, Davy Tsz Kit, Jac Ka Lok Leung, Samuel Kai Wah Chu, und Maggie ShenQiao. 2021. «Conceptualizing AI literacy: An exploratory review». Computers and Education: Artificial Intelligence 2, 100041.
Noble, Safiya, und Roberts, Sarah. 2019. Technological Elites, the Meritocracy, and Postracial Myths in Silicon Valley. Durham: Duke University Press.
Orwat, Carsten. 2019. Diskriminierungsrisiken durch Verwendung von Algorithmen. https://www.antidiskriminierungsstelle.de/SharedDocs/downloads/DE/publikationen/Expertisen/studie_diskriminierungsrisiken_durch_verwendung_von_algorithmen.html?nn=6569158.
Oudshoorn, Nelly, Louis Neven, und Marcelle Stienstra. 2016. «How diversity gets lost: Age and gender in design practices of information and communication technologies». Journal of Women & Aging 28 (2): 170–85.
Oudshoorn, Nelly, Els Rommes, und Marcelle Stienstra. 2004. «Configuring the User as Everybody: Gender and Design Cultures in Information and Communication Technologies». Science, Technology & Human Values 29 (1): 30–63. https://doi.org/10.1177/0162243903259190.
Parasuraman, Raja, und Dietrich H. Manzey. 2010. «Complacency and bias in human use of automation: An attentional integration». Human factors 52 (3): 381–410.
Paus, Elisabeth, und Regina Jucks. 2012. «Common Ground? How the Encoding of Specialist Vocabulary Affects Peer-to-Peer Online Discourse». Discourse Processes 49, 7: 565–598. https://doi.org/10.1080/0163853X.2012.711671.
Peter, Ulrike. 2001. «Bildungsaspekte im Cyberfeminism». Abgerufen am 11.02.2022. http://fiff.informatik.uni-bremen.de/2001/html/AG10-peter.pdf (Dokument nicht mehr verfügbar).
Raudonat, Kerstin, Monika Pröbster, Kai Schmieder, Simone Martinetz, und Nicola Marsden. 2022. «Where bias can creep in – Gendersensibilität beim Einsatz von KI-Technologien im Kontext beruflicher Weiterbildung im Forschungsprojekt KIRA». INFORMATIK 2022, 683–692. https://doi.org/10.18420/inf2022_54.
Reißmann, Wolfgang, und Patrick Bettinger, Hrsg. 2022. Digitalität und Souveränität. Braucht es neue Leitbilder der Medienpädagogik? merz | medien + erziehung, merzWissenschaft. https://doi.org/10.21240/merz/2022.6.
Rudin, Cynthia. 2019. «Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead». Nature Machine Intelligence 1 (5): 206–15. https://doi.org/10.1038/s42256-019-0048-x.
Ruwe, Theresa und Elisabeth Mayweg-Paus (2023). «Your Argumentation is Good, says the AI vs. Humans – The Role of Feedback Providers and Personalized Language for Feedback Effectiveness». Computers & Education: Artificial Intelligence 5. https://doi.org/10.1016/j.caeai.2023.100189.
Ruwe, Theresa, und Elisabeth Mayweg-Paus, E. 2024. «Embracing AI feedback: The role of feedback providers and meta-information for feedback effectiveness». Frontiers in Education 9. https://doi.org/10.3389/feduc.2024.1461362
Scriven, Michael, und Richard Paul. 1987. «Defining Critical Thinking». 8th Annual International Conference on Critical Thinking and Education Reform.
Shin, Donghee. 2020. «User perceptions of algorithmic decisions in the personalized AI system: Perceptual evaluation of fairness, accountability, transparency, and explainability». Journal of Broadcasting & Electronic Media 64 (4): 541–565.
Sillence, Elizabeth, Pam Briggs, Peter Harris, und Lesley Fishwick. 2006. «A framework for understanding trust factors in web-based health advice». International Journal of Human-computer studies 64 (8): 697–713.
Stoltenhoff, Ann-Kathrin, und Kerstin Raudonat. 2016. «Medienpädagogik im Spannungsfeld der (Re)Produktion heteronormativer Machtstrukturen und emanzipatorischer Bildungsideale – Eine poststrukturalistische Perspektive». [Macht, Souveränität, Herrschaft] MEDIENIMPULSE 4. https://doi.org/10.21243/mi-04-16-03.
Swiecki, Zachari, Hassan Khosravi, Guanliang Chen, Roberto Martinez-Maldonado, Jason M. Lodge, Sandra Milligan, … und Dragan Gašević. 2022. «Assessment in the age of artificial intelligence». Computers and Education: Artificial Intelligence 3, 100075.
Thiebach, Monja, Mayweg-Paus, Elisabeth, Regina Jucks. 2016. «Better to Agree or Disagree? The Role of Critical Questioning and Elaboration in Argumentative Discourse». Zeitschrift für Pädagogische Psychologie 30 (2–3): 133–49. https://doi.org/10.1024/1010-0652/a000174.
Vuorikari, Riina, Stefano Kluzer, und Yves Punie. 2022. «DigComp 2.2, The Digital Competence framework for citizens – With new examples of knowledge, skills and attitudes». Publications Office of the European Union. https://doi.org/10.2760/115376.
Wachter-Boettcher, Sara. 2017. Technically wrong: sexist apps, biased algorithms, and other threats of toxic tech. New York: WW Norton & Company.
Wajcman, Judy. 2009. «Feminist theories of technology». Cambridge journal of economics 34, 1: 143–152.
Waltl, Bernhard. 2019. Erklärbarkeit und Transparenz im Machine Learning. In Philosophisches Handbuch Künstliche Intelligenz, herausgegeben von Klaus Mainzer, 1–23. Wiesbaden: Springer VS. https://doi.org/10.1007/978-3-658-23715-8_31-1.
Williams, Joan C., und Sky Mihaylo. 2019. «How the Best Bosses Interrupt Bias on Their Teams». Harvard Business Review (Nov./Dec.).
Willingham, Daniel. 2007. «Critical thinking: Why is it so hard to teach?» American Educator: 8–19.
Zimmermann, Maria, und Elisabeth Mayweg-Paus. 2021. «The role of collaborative argumentation in future teachers’ selection of online information». Zeitschrift für Pädagogische Psychologie: 1–14. https://doi.org/10.1024/1010-0652/a000307.