Erros, falhas e perturbações digitais em alucinações das IA generativas: tipologia, premissas e epistemologia da comunicação

Autores/as

DOI:

https://doi.org/10.11606/issn.1982-8160.v18i1p75-91

Palabras clave:

erros digitais, alucinação, ChatGPT, IA, neomaterialismo

Resumen

Neste artigo, identifica-se como erros, falhas e perturbações digitais podem ser analisados a partir de três premissas, relacionando-os com o exemplo da atual alucinação em sistema de IAG, como o ChatGPT. Eles revelam uma dimensão escondida dos objetos digitais. Por serem mais concretos, os objetos digitais geram uma maior indefinição das origens e consequências de eventos disruptivos. Nesses momentos, pode-se vislumbrar agenciamentos coletivos em torno da cultura digital. A proposta é que os erros, falhas e perturbações sejam entendidos não como positivos ou negativos, mas como uma forma de apontar direcionamentos para a pesquisa, indicar o locus para uma abordagem qualitativa. Conclui-se que os erros não são apenas disruptivos, ou oportunidade para gerar inovação, mas eventos que permitem entender as formas da comunicação e as ações das mídias digitais.

Descargas

Los datos de descarga aún no están disponibles.

Biografía del autor/a

  • André Luiz Martins Lemos, Universidade Federal da Bahia. Faculdade de Comunicação

    Doutor em Sociologia Paris V, Sorbonne (1995). Professor Titular da Faculdade de Comunicação da Universidade Federal da Bahia (UFBA). Professor permanente do Programa de Pós-Graduação em Comunicação e Cultura Contemporâneas (Facom/UFBA). Pesquisador 1A do CNPQ. Coordenador do Lab404.

Referencias

Alexander, N. (2017). Rage Against the Machine: Buffering, Noise, and Perpetual Anxiety in the Age of Connected Viewing. Cinema Journal, 56(2), 1–24. https://doi.org/10.1353/cj.2017.0000

Amoore, L. (2019). Doubt and the Algorithm: On the Partial Accounts of Machine Learning. Theory, Culture & Society, 36(6), 147–169. https://doi.org/10.1177/0263276419851846

Amoore, L. (2020). Cloud ethics: Algorithms and the attributes of ourselves and others. Duke University Press.

Appadurai, A., & Alexander, N. (2020). Failure. Polity.

Arendt, H. (1998). The human condition (2nd ed). University of Chicago Press.

Barker, T., & Korolkova, M. (Orgs.). (2022). Miscommunications: Errors, Mistakes, Media. Bloomsbury Academic.

Bellinger, M. (2016). The Rhetoric of Error in Digital Media Computational Culture. Computational Culture, 5(15 january), 1–26. http://computationalculture.net/the-rhetoric-of-error-in-digital-media-2/.»

Bennett, J. (2005). The Agency of Assemblages and the North American Blackout. Public Culture, 17(3), 445–465.

Callon, M. (2001). Actor Network Theory. Em International Encyclopedia of the Social & Behavioral Sciences (p. 62–66). Elsevier. https://doi.org/10.1016/B0-08-043076-7/03168-5

Crawford, K. (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press.

Dourish, P. (2017). The stuff of bits: An essay on the materialities of information. The MIT Press.

Eubanks, V. (2017). Automating inequality: How high-tech tools profile, police, and punish the poor (First Edition). St. Martin’s Press.

Fox, N. J., & Alldred, P. (2017). Sociology and the new materialism: Theory, research, action. Sage Publications.

Fox, N. J., & Alldred, P. (in press). New Materialism. Em P. A. Atkinson, S. Delamont, M. A. Hardy, & M. Williams (Orgs.), Research Methods Foundations. Sage.

Giddens, A. (1990). The Consequences of modernity. Polity Press.

Gillespie, T. (2010). The politics of ‘platforms’. New Media & Society, 12(3), 347–364. https://doi.org/10.1177/1461444809342738

Grusin, R. A. (Org.). (2015). The nonhuman turn. University of Minnesota Press.

Harman, G. (2002). Tool-being: Heidegger and the metaphyics of objects. Open Court.

Harman, G. (2007). Heidegger explained: From phenomenon to thing. Open Court.

Harman, G. (2011). The Quadruple Object. Zero Books.

Heidegger, M. (2005). Ser e Tempo (Parte I). Vozes.

Heidegger, M. (2007). A questão da técnica. Scientiae Studia, 5(3), 375–398. https://doi.org/10.1590/S1678-31662007000300006

Ji, Z., Lee, N., & Frieske, R. (2022). Survey of hallucination in natural language generation. ACM Computing Surveys. https://dx.doi.org/10.1145/3571730

Korolkova, M., & Bowes, S. (2020). Mistake as method: Towards an epistemology of errors in creative practice and research. Uropean Journal of Media Studies, 9(2), 139–157. https://necsus-ejms.org/mistake-as-method-towards-an-epis- temology-of-errors-in-creative-practice-and-research/

Latour, B. (1996). On Interobjectivity. Mind, Culture, and Activity, 3(4), 228–245. https://doi.org/10.1207/s15327884mca0304_2

Latour, B. (2002). Aramis, or the love of technology (4. printing). Harvard Univ. Press.

Latour, B. (2005). Reassembling the social: An introduction to actor-network-theory. Oxford University Press.

Latour, B. (2013). An inquiry into modes of existence: An anthropology of the moderns. Harvard University Press.

Lemos, A. (2020a). Comunicação, Mediação e Modo de Existência na Cibercultura. Em G. Alzamora, J. Ziller, & F. Coutinho (Orgs.), Dossiê Bruno Latour. UFMG.

Lemos, A. (2020b). Epistemologia da comunicação, neomaterialismo e cultura digital. Galáxia (São Paulo), 43, 54–66. https://doi.org/10.1590/1982-25532020143970

Lemos, A., & Bitencourt, E. (2021). Sete pontos para compreender o neomaterialismo. Galáxia (São Paulo), 46, e52017. https://doi.org/10.1590/1982-2553202152017

Marx, K., & Engels, F. (2011). The communist manifesto. Penguin Books.

Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism.

Nunes, M. (Org.). (2011). Error: Glitch, noise, and jam in new media cultures. Continuum.

Parikka, J., & Sampson, T. D. (2009). ON ANOMALOUS OBJECTS OF DIGITAL CULTURE An Introduction. Em The Spam book. On Viruses, Porn, and Other Anomalies from the Dark Side of Digital Culture (p. 291). Hampton Press.

Rettberg, J. W. (2022). Algorithmic failure as a humanities methodology: Machine learning’s mispredictions identify rich cases for qualitative analysis. Big Data & Society, 9(2), 205395172211312. https://doi.org/10.1177/20539517221131290

Simondon, G. (1989). Du mode d’existence des objets techniques (Ed. augm). Aubier.

van Dijck, J., Poell, T., & de Waal, M. (2018). The Platform Society. Oxford University Press.

Velkova, J. (2016). Data that warms: Waste heat, infrastructural convergence and the computation traffic commodity. Big Data & Society, 3(2), 205395171668414. https://doi.org/10.1177/2053951716684144

Velkova, J. (2019). Data Centers as Impermanent Infrastructures.

Velkova, J. (2021). Thermopolitics of data: Cloud infrastructures and energy futures. Cultural Studies, 35(4–5), 663–683. https://doi.org/10.1080/09502386.2021.1895243

Weber, M. (2001). The Protestant ethic and the spirit of capitalism. Routledge.

Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power (First edition). PublicAffairs.

Publicado

2024-04-30

Número

Sección

Dossiê

Cómo citar

Lemos, A. L. M. (2024). Erros, falhas e perturbações digitais em alucinações das IA generativas: tipologia, premissas e epistemologia da comunicação. MATRIZes, 18(1), 75-91. https://doi.org/10.11606/issn.1982-8160.v18i1p75-91