胡正荣谈人工智能带来的机遇与挑战

中国社会科学院新闻与传播研究所所长胡正荣

Hu Zhengrong, Director, Institute of Journalism and Communication Studies,Chinese Academy of Social Sciences

 

人工智能技术

Artificial intelligence technology

越来越发达之后就会发现

With its rapid advancement we arerealizing that it can be a double-edged sword

可能既是帮助我们的一把利剑

on the one hand, a powerful tool to helpus

但实际上也可能是

but on the other hand

反击我们的一把“利剑”

a weapon that can turn against us

 

互联网进入中国31年

This year marks 31 years since theinternet entered China

全中国网民现在已经11亿多人了

Today, the country has over 1.1 billioninternet users

如此庞大的社会需求

Such enormous demand from society

和如此庞大的市场的动力

and market momentum

就使得这个行业呢

give the industry

创新非常有后劲

strong potential for innovation

当然客观来讲

At the same time

整个网络视听未来的大发展

the future development of online audiovisualmedia

实际上还受到一些

actually still faces

这个潜在的一些挑战

certain underlying challenges

第一个方面

In the first place

科技的发展的速度

the speed of technological progress

以及它应用的程度

and the extent of its application

还是要加快

both need to accelerate

第二个挑战 我个人觉得

The second challenge, in my view

就是我们网络视听生态里面的

lies within the online audiovisualecosystem itself

这个良性的力量

Positive and constructive forces

尽管现在占主导

still dominate at present

但实际上我们还大量的

we can still hear a great deal of

能听到一些杂音

distracting voices

博眼球的 争流量的

content chasing clicks and traffic

甚至某种意义上来讲

in some cases

没有底线的

without moral boundaries

这个行业要想发达的话

For this industry to truly thrive

或者发展的话

and flourish

是需要有正能量

we need to let positive energy

来发挥它的这个作用

exert its proper influence

我们在互联网这个时代

In today’s internet era

已经强烈地感受到

we deeply feel

就是基于大数据模型

the impact of big-data-based models

对用户进行画像

used to build user profiles

然后对他进行精准地推送

and push highly targeted content

当然说实话也有一些挑战

But to be honest there are stillchallenges

全世界的语料库也好

inglobal corpora

这个数据库也好

and databases

汉语只占了百分之十

Chineseaccounts for only about 10%

你要大量的用非汉语类的内容

Thatmeans a large amount of training data must come from non-Chinese content

比方英语类的内容

forexample English content

可是英语类的

especiallyEnglish

所有的这些内容

Yet allthis English-language material

一定会带上它自有的价值观

inevitablycarries its own values

所以这就意味着

This means that

人工智能生产出来的内容

AI-generated content

很有可能价值观和我们就不对齐

may not align with our own values

简单来说就是价值会有冲突

simply put it may conflict with ours

由于人工智能技术

As artificial intelligence technologyadvances

越来越发达之后就会发现

we will increasingly realize

它的这个精准性

AI’s growing precision

可能既是帮助我们的一把利剑

can be a powerful tool to empower us

但实际上也可能是

but if misused

反击我们的一把“利剑”

it can also turn into a weapon againstus

用好了能赋能

In the right hands it can empower

你要用得不好

in the wrong hands

其实给我们是带来

it can pose

巨大的挑战和威胁的

serious risks and threats

现在学界和业界

Bothacademia and industry

在人工智能这些挑战方面

are nowworking on AI-related challenges

大家都在做深度的研究

carryingout further research

比方说算法推荐带来的偏见

bias inalgorithmic recommendations

比方说算法过度之后

over-relianceon algorithms

带来的信息茧房

leadingto “information cocoons”

比方说人工智能

andvalue deviations

出现的这个价值偏差

in AIoutputs

用人工智能生成出来的内容

MuchAI-generated content

有很多东西都是虚假的

can befalse or misleading

我们都可以举一个例子

We cangive an example

人工智能生成出来这个人

AnAI-generated image of a person

你会发现他是六个手指头

withsix fingers

它都判断不出来

because the system cannot

我已经生成了五个

correctly identify

我就又生成了一个

when to stop after five

这就说明人工智能

This shows that

还没有达到它的

AI is still far from

最聪明的这个程度

being truly intelligent

现在业界都在不断地调整参数

The industry is constantly adjustingparameters

学界也不断地做深入地研究

while academia continues to researchsolutions

怎么去避免人工智能

to avoid these problems

带出来的这些问题

that could arise from AI

一般一个新兴产业

Normally an emerging industry

新兴技术的出现

or a new technology

你都要给它一定的时间

needs time

让它去发展

to mature

我相信随着人工智能的

I believe that with AI’s ongoing

不断地迭代升级

iterations and upgrades

会让整个的这些挑战

these challenges

越来越成为一些

will gradually transform into

良性发展的一些机遇

opportunities for healthy growth

2025北京文化论坛

2025 Beijing Culture Forum

9月相会北京

See you in September

责任编辑：张慕琪

文章来源：http://www.71.cn/2025/0915/1272505.shtml