正文

现在把ChatGPT独立用于任何产业都是危险的

(2023-02-12 12:58:40) 下一个

ChatGPT火遍全网,也带动全社会的高度热情,只要和它沾边的股票都有一番炒作。这个炒作与微软先后投入数十亿美元干系不浅,当然,这个炒作是否是微软发起的还未可知。

我好奇做了一个小实验,结果是:ChatGPT对一个有准确解的简单问题在不同的时候会提出若干不同的解答,其中有相当多的答案是错误的,表明它目前无法判断解答的准确性。

结论:现在把ChatGPT独立用于任何产业都是危险的。

我的试验是让ChatGPT求解 x^3 + 1 = 0. 我们从初高中的数学知识都知道这个方程有3个根:-1, 1/2+√3/2 i, 和 1/2-√3/2 i。

1. 第一次ChatGPT被方程x^3+1=0卡住了。

问:What are the roots of x to the power of 3 plus 1?

答:

The equation x^3 + 1 = 0 is a polynomial equation and can be solved using the cubic formula. The roots of this equation can be expressed analytically as follows:

x = (-1 + √[3(i)])^(1/3) , (-1 - √[3(i)])^(1/3)

where i is the imaginary unit, i.e., the square root of -1. These roots are complex numbers and cannot be expressed in terms of real numbers alone. The cubic formula provides a way to find the

卡这了。。。。

 

2. 同样的问题,后面几次它换成了因式分解,但答案仍然是错的

The roots of the equation x^3 + 1 can be found using various methods, but it is not possible to express them using real numbers only. The roots are complex numbers.

One possible method to find the roots is to factor the polynomial as (x + 1)(x^2 - x + 1), which can be further factored as (x + 1)(x - (1 + i√3))(x - (1 - i√3)).

So the roots of the equation x^3 + 1 are:

  • x = 1 + i√3
  • x = 1 - i√3
  • x = -1.

Note that the roots are complex conjugates of each other, meaning that if x is a root, then its complex conjugate (its "mirror image" across the real axis) is also a root.

3. 重复这个问题十几次

它可能会给出比较笼统的解答思路,也可能用三角函数解得到正确答案。但是,有一半左右的情况是不正确的答案。这就是危险所在,因为人们或用户多数时候不是考验它,而是在向它寻找答案。它给出的答案貌似没有语言问题,但错误的可能性太大了。

如果微软用这个来做无人驾驶,我肯定不会买。

[ 打印 ]
阅读 ()评论 (4)
评论
时不时来看看 回复 悄悄话 回复 '新中美' 的评论 : 它就是一个很好的文献分类AI,但对这些文献做总结还很不成熟。给出错误答案比说不知道的危害大太多。
时不时来看看 回复 悄悄话 回复 'Dalidali' 的评论 : 下棋是无法战胜AI了,数学上,那是个边界问题,有接近准确解的数值解,人的大脑无法达到那个计算量。但是,对于没有边界的开放问题的解,AI还有不小距离。比如让它解哥德巴赫猜想,它最多能把计算机能达到的最大素数找到,而无法自己证明那个猜想。
新中美 回复 悄悄话 它的可怕之处在于有人信它,而且把它的答案当成唯一的正确
登录后才可评论.