Erros, falhas e perturbações digitais em alucinações das IA generativas: tipologia, premissas e epistemologia da comunicação
DOI:
https://doi.org/10.11606/issn.1982-8160.v18i1p75-91Palavras-chave:
erros digitais, alucinação, ChatGPT, IA, neomaterialismoResumo
Neste artigo, identifica-se como erros, falhas e perturbações digitais podem ser analisados a partir de três premissas, relacionando-os com o exemplo da atual alucinação em sistema de IAG, como o ChatGPT. Eles revelam uma dimensão escondida dos objetos digitais. Por serem mais concretos, os objetos digitais geram uma maior indefinição das origens e consequências de eventos disruptivos. Nesses momentos, pode-se vislumbrar agenciamentos coletivos em torno da cultura digital. A proposta é que os erros, falhas e perturbações sejam entendidos não como positivos ou negativos, mas como uma forma de apontar direcionamentos para a pesquisa, indicar o locus para uma abordagem qualitativa. Conclui-se que os erros não são apenas disruptivos, ou oportunidade para gerar inovação, mas eventos que permitem entender as formas da comunicação e as ações das mídias digitais.
Downloads
Referências
Alexander, N. (2017). Rage Against the Machine: Buffering, Noise, and Perpetual Anxiety in the Age of Connected Viewing. Cinema Journal, 56(2), 1–24. https://doi.org/10.1353/cj.2017.0000
Amoore, L. (2019). Doubt and the Algorithm: On the Partial Accounts of Machine Learning. Theory, Culture & Society, 36(6), 147–169. https://doi.org/10.1177/0263276419851846
Amoore, L. (2020). Cloud ethics: Algorithms and the attributes of ourselves and others. Duke University Press.
Appadurai, A., & Alexander, N. (2020). Failure. Polity.
Arendt, H. (1998). The human condition (2nd ed). University of Chicago Press.
Barker, T., & Korolkova, M. (Orgs.). (2022). Miscommunications: Errors, Mistakes, Media. Bloomsbury Academic.
Bellinger, M. (2016). The Rhetoric of Error in Digital Media Computational Culture. Computational Culture, 5(15 january), 1–26. http://computationalculture.net/the-rhetoric-of-error-in-digital-media-2/.»
Bennett, J. (2005). The Agency of Assemblages and the North American Blackout. Public Culture, 17(3), 445–465.
Callon, M. (2001). Actor Network Theory. Em International Encyclopedia of the Social & Behavioral Sciences (p. 62–66). Elsevier. https://doi.org/10.1016/B0-08-043076-7/03168-5
Crawford, K. (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press.
Dourish, P. (2017). The stuff of bits: An essay on the materialities of information. The MIT Press.
Eubanks, V. (2017). Automating inequality: How high-tech tools profile, police, and punish the poor (First Edition). St. Martin’s Press.
Fox, N. J., & Alldred, P. (2017). Sociology and the new materialism: Theory, research, action. Sage Publications.
Fox, N. J., & Alldred, P. (in press). New Materialism. Em P. A. Atkinson, S. Delamont, M. A. Hardy, & M. Williams (Orgs.), Research Methods Foundations. Sage.
Giddens, A. (1990). The Consequences of modernity. Polity Press.
Gillespie, T. (2010). The politics of ‘platforms’. New Media & Society, 12(3), 347–364. https://doi.org/10.1177/1461444809342738
Grusin, R. A. (Org.). (2015). The nonhuman turn. University of Minnesota Press.
Harman, G. (2002). Tool-being: Heidegger and the metaphyics of objects. Open Court.
Harman, G. (2007). Heidegger explained: From phenomenon to thing. Open Court.
Harman, G. (2011). The Quadruple Object. Zero Books.
Heidegger, M. (2005). Ser e Tempo (Parte I). Vozes.
Heidegger, M. (2007). A questão da técnica. Scientiae Studia, 5(3), 375–398. https://doi.org/10.1590/S1678-31662007000300006
Ji, Z., Lee, N., & Frieske, R. (2022). Survey of hallucination in natural language generation. ACM Computing Surveys. https://dx.doi.org/10.1145/3571730
Korolkova, M., & Bowes, S. (2020). Mistake as method: Towards an epistemology of errors in creative practice and research. Uropean Journal of Media Studies, 9(2), 139–157. https://necsus-ejms.org/mistake-as-method-towards-an-epis- temology-of-errors-in-creative-practice-and-research/
Latour, B. (1996). On Interobjectivity. Mind, Culture, and Activity, 3(4), 228–245. https://doi.org/10.1207/s15327884mca0304_2
Latour, B. (2002). Aramis, or the love of technology (4. printing). Harvard Univ. Press.
Latour, B. (2005). Reassembling the social: An introduction to actor-network-theory. Oxford University Press.
Latour, B. (2013). An inquiry into modes of existence: An anthropology of the moderns. Harvard University Press.
Lemos, A. (2020a). Comunicação, Mediação e Modo de Existência na Cibercultura. Em G. Alzamora, J. Ziller, & F. Coutinho (Orgs.), Dossiê Bruno Latour. UFMG.
Lemos, A. (2020b). Epistemologia da comunicação, neomaterialismo e cultura digital. Galáxia (São Paulo), 43, 54–66. https://doi.org/10.1590/1982-25532020143970
Lemos, A., & Bitencourt, E. (2021). Sete pontos para compreender o neomaterialismo. Galáxia (São Paulo), 46, e52017. https://doi.org/10.1590/1982-2553202152017
Marx, K., & Engels, F. (2011). The communist manifesto. Penguin Books.
Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism.
Nunes, M. (Org.). (2011). Error: Glitch, noise, and jam in new media cultures. Continuum.
Parikka, J., & Sampson, T. D. (2009). ON ANOMALOUS OBJECTS OF DIGITAL CULTURE An Introduction. Em The Spam book. On Viruses, Porn, and Other Anomalies from the Dark Side of Digital Culture (p. 291). Hampton Press.
Rettberg, J. W. (2022). Algorithmic failure as a humanities methodology: Machine learning’s mispredictions identify rich cases for qualitative analysis. Big Data & Society, 9(2), 205395172211312. https://doi.org/10.1177/20539517221131290
Simondon, G. (1989). Du mode d’existence des objets techniques (Ed. augm). Aubier.
van Dijck, J., Poell, T., & de Waal, M. (2018). The Platform Society. Oxford University Press.
Velkova, J. (2016). Data that warms: Waste heat, infrastructural convergence and the computation traffic commodity. Big Data & Society, 3(2), 205395171668414. https://doi.org/10.1177/2053951716684144
Velkova, J. (2019). Data Centers as Impermanent Infrastructures.
Velkova, J. (2021). Thermopolitics of data: Cloud infrastructures and energy futures. Cultural Studies, 35(4–5), 663–683. https://doi.org/10.1080/09502386.2021.1895243
Weber, M. (2001). The Protestant ethic and the spirit of capitalism. Routledge.
Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power (First edition). PublicAffairs.
Downloads
Publicado
Edição
Seção
Licença
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
Autores que publicam nesta revista concordam com os seguintes termos:
- Autores mantêm os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution (CC BY-NC-SA 4.0) que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista para fins não comerciais.
- Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
