社群媒體已徹底改變世界，衍生出假訊息、監控、同溫層效應、仇恨言論盛行等風險，隨人工智慧興起，AI將成為下個改變人類生活的新技術，但AI究竟是能治癒社群媒體沉痾的救星，還是會重蹈覆轍，甚至讓社群生態更惡化，成為近期學界及科技領域討論話題。
看好AI者認為，AI不只可以改變社群負面、虛假內容氾濫現況，還能讓社群世界變得更美好。時代雜誌（TIME）今年4月以「人工智慧可治癒分裂的網路」為題撰文，列出AI能改變社群媒體現況的原因：
找出正面社群言論
許多科技公司已透過AI來識別仇恨、煽動暴力、騷擾等負面內容，以減緩網路分裂，Google母公司Alphabet旗下技術孵化器Jigsaw進一步推出新AI分類器，設有多樣評分項目，可細緻辨識貼文是否具備同理心、多元觀點等正面特質，藉此找出正面社群言論。
改變內容推薦模式
Jigsaw期待改變社群平台以熱門度、廣告為主的內容推薦模式，多推送正面內容。Jigsaw說，工具已提供獨立開發商，希望透過新聞評論區等小型實驗，提供證據基礎，證明新推薦方式依舊受用戶歡迎。短期參與度或許會下降，但健康生態將有助長期參與，也能讓各社群自行組合評分和推薦機制，避免單一霸權主宰。
不過也有專家對AI持截然不同看法。有學者針對Jigsaw這套工具提出質疑，資料科學家桑德斯、安全技術專家施奈爾今年3月也在麻省理工科技評論撰文，指AI若未謹慎使用，恐對社會造成難以置信的傷害：
加劇仇恨言論傳播
有意散布惡意內容的用戶可透過生成式AI產製大量假訊息，再藉由AI控制的假帳戶病毒式傳播。印第安納大學研究員去年7月揭露社群平台X上由1100多個假帳號組成的殭屍網絡，疑似皆透過ChatGPT運作。
AI篩選有審查疑慮
不少研究指出，AI易存有偏見，用熱門度來推薦社群內容仍相對公平，用AI來篩選恐有審查疑慮。
另社群媒體令人詬病是平台壟斷，社群平台仗著擁有大量資料，讓用戶難以轉移，AI也有此問題。
桑德斯和施奈爾認為，人類在社群媒體上犯的最大錯誤是讓其成為一個不受監管的空間，如今AI也正以超越當年社群媒體擴散的速度影響人類生活，監管與限制使用變得相對重要，「社群和AI本質都不邪惡，危險來自於誰揮舞這把劍，以及劍朝什麼方向」。