第285章 人工智能是否会威胁人类,在于它对
第285章人工智能是否会威胁人类,在于它对人类的评估
吴哲见沈知文太激动,赶紧劝道:“知文,你可别想着一口吃成胖子。按现在的技术要想达成你心中的完美构想是不可能的,一步步来。以后是大数据的时代。”
“阿哲,按你这么说的话,人工智能时代不是很快就能来临。”汪潮有点惊奇的道。
他想想电影中的画面,就感觉到有缺。
又接着问吴哲:“人工智能的出现,会不会真像电影里演的一样,对人类产生威胁。”
吴哲见三人对这个问题都很有兴趣,思考了下回答道:“在我看来,产生人工智能的时间还早,当然不排除偶然因素的出现。至于会不会对人类做出危险,那应该在于AI对于文明人类的定义。怎么样来评估人类?”
吴哲这话说出,不光是汪潮和黄明海有些发愣。连精通计算机的沈知文也没有听明白吴哲这话是什么意思。
“阿哲,伱这是什么意思?难道我们发明了它,它还能造反不成。你们不是有什么人工智能三大定律吗?我记得排首位的应该就是AI不能伤害人类吧?”汪潮诧异的问道。
“汪潮,好歹你也是学理的,骗骗外行的话,你也信?”吴哲鄙夷的笑笑,“真要出现AI生命,你就算在底层程序中设置了不伤害人类这一条规则。你信不信它能把代码倒过来用火星文重写一遍?在AI生命里就没有不能打破的规则!”
“擦,那不是完全不可控?”汪潮惊叫了声。
“那我问你,性本善,还是性本恶!”吴哲继续问道。
“阿哲,这是个哲学问题。我们学理的就不用分得那么清了吧?”黄明海在旁听得头大。
沈知文却觉着这个问题关乎智能生命很重要的一部分,忙拦住黄明海,“阿哲这里面还有什么说法吗?”
“呃,真想听?解释起来会有点拗口!”吴哲这会却不怎么想解释了,太麻烦!
“嘿,吊胃口?你越这样我们还越想听了。不就是出生下来人是好的还是坏的这一争论吗?整得这么神秘干嘛?”汪潮在旁边叫嚣。
“啪!”头上被吴哲敲了下,“让你丫的不学无术,对了。汪潮你想在金融领域更进一步,能超越西方的理论体系,我劝你多看下东方的哲学思想,多思考。”
捂着头的汪潮有些不解的看着吴哲,我一学数学的。你让我看古文?
吴哲点了汪潮一句,没再多说。有些东西要自己悟才行。
“孟子的性善论,并不是说人天性本善。而是一种本能欲望。这种欲望是发自内心的天性。荀子的性恶论当然也不是说人生下来就是恶的,这里的“性恶”是指人的欲望无限发展的趋势造成坏的结果。人的欲望是无限的,时间长了大家就会争,争则乱,乱则恶。”
“所以两人的关于“性”的理解完全不同,一个在于本能,比如吃饭,睡觉。而另一个说的是欲望不受控制而导致的后果。”
“好了,现在我们转回到AI生命上来,我刚刚说的几乎都是生命诞生意识后会出现的情况。那AI的本能是什么呢?不用吃饭和睡觉,他的本能应该就是计算和验证,然后是探索。那它会有欲望吗?而一旦不可控又会发生什么?”
“我们的历史文明对于时间和空间来说,那是一个片段,对于AI来说那就是一段数据流,而在数据流中的我们人类,也许对AI来说是比较重要的数据,而当它的欲望膨胀到认为清除我们,对于这股数据洪流有益无害时,那敌对将不可避免。所以我前面就提到过AI诞生,不在于底层逻辑,而在于它对于整个人类文明的评估。”
吴哲已经尽量用通俗的语言去解释,可三人还是听得云山雾罩的。转念想想,自己操这个心干嘛?这真出事,前面不还有高个在那顶着嘛!至少吴哲肯定会比他们考虑的要多。
“嗨,阿哲,一句话。就是以后肯定会闹翻呗!搞这东西出来,意思还得把反制他的东西一起搞出来,对吧!”汪潮大大咧咧道。
反正那不是他研究的领域,该操心的是吴哲和沈知文才是。
吴哲瞄了他一眼道:“我再打个比方,你说我们人是什么?”
这最简单的一个问题,把在场的三个人都难住了。做了这么久的人了,还真没思考过人是什么?
不等几人回答,吴哲就笑着说道:“我们人类也是有底层代码的,也就是DNA和造就情绪的那些化学物质。一则造就了物质身体,另一个则是通过生物电和一些化学物质产生了情绪,而那些情绪进一步作用而成了意识,也可以叫做灵魂。
可是我们还无法做到区分数十亿的神经单元所产生的生物电和其中的变量。但里面的规律性是显而易见的,那你们说我们是不是也是设计好的?
假设有这么个造物主,如果天天奴役你,压榨你,还天天的翻看你的DNA,不时的改改写写。让你毫无保留的袒露在外,你会怎么做?”
“那不废话?淦他丫的!”汪潮想都没想就喊道。
沈知文眉头皱得很深,吴哲的话说的已经很明白了。
看了眼吴哲道:“阿哲,这些只是你的推断,是不是真如你说的这样,还不能下定论。”
吴哲摊了摊手,他知道沈知文的意思,刚刚他的话其实不应该是从他嘴里说出来的,因为这些都没有论据,而且他刚刚的话已经涉及到造物主而不是达尔文的进化论了。
“嘿,瞎扯而已。你们还当真了啊!赶紧吃完回校。”吴哲劝道。
但他还是叮嘱了沈知文一句,“知文,你最好学一下生物学,特别是脑神经方面的,这对你以后AI方面应该会有用,我刚刚说的,那些神经元什么的,可没虚构。”
“嗯!我会学习的!我也觉得你的见解有独到之处。”沈知文点点头。
黄明海笑着道:“阿哲,你给知文还有汪潮都指明了道路,可不能厚此薄彼。看看我后面应该加强什么?”
“他什么时候给我指路了啊?我怎么不知道?”汪潮一脸问号。
“你汪大少挺聪明的一个人,这会怎么犯糊涂了?阿哲,让你学习古代的东方哲学思维。这还不明白,你什么时候见过阿哲乱讲的?”黄明海敲了敲汪潮的榆木脑袋。
“老大你以后想在物理哪个方面有所研究?”吴哲是真不知道黄明海具体的是研究哪个方面的,后来他进航天部,很多东西的是保密的,。吴哲没问过,而黄明海就更不可能说了。
“还没想好,我希望有一天,我能让我们国家的人也能上天,登月亦或者是能去火星。这是我儿时的梦想。”
这题目给得够大,吴哲也不知道该说什么。航天是个系统工程,这学科包罗万象,基本是一个国家最顶峰的技术产物。
“这我还真给不了意见,这航天工程包含的学科太多了。不过材料和动力这两个是无论如何也绕不过的课题。你可以加强一下。”
吴哲也只能给出这样的建议。
四人吃好后,又在客厅聊了会寒假里各自的趣事。看看时间差不多了,几人动身回学校。
少院的一间教室内,这届的新生则是非常热闹的在谈论寒假生活,当中也免不了说到吴哲,自己这位同学,在过年后可又是闹出些风波的。
见吴哲宿舍的四人都不见人影,很多人都跑齐铭这来打听情况。
“齐铭,吴哲和汪潮他们呢?”2班的徐栋跑过来问道。
“去校外了,汪潮说正在过来。”齐铭温温柔柔的答道。
“嘿,第一天就跑出去。准是搞聚餐去了。齐铭外面班晚上说好聚餐,你们1班怎么说?”许栋过来就是问下晚上聚会的事情。
“那还用说,这事肯定成啊!就汪潮那没事都想请客的性子,他听到聚会不要太高兴!”1班的高小成在旁边笑着道。
“那是,哪次不是我们班先搞,然后把你们班给带上。”
“许栋,这次学会抢先了,要不你们请客?”
“我看行,也得帮吴哲和汪潮两个省省了!”
1班的人这算是架秧子,直接把许栋给架了上去,这不答应肯定不行,答应的话,他倒是无所谓,可自己班里如果有意见的话,那就麻烦了。
一咬牙,要是有人不答应的话,那就干脆自己请了。
刚要答应,身后就传来了声音:“嘿!许栋,又是你个王八羔子来抢汪爷的风头,请客的事情哪轮得到你?”然后转身对着所有人大声道:“晚上,江南春!所有的消费都有汪公子买单!”
“哦!汪爷帅气!”周围的人也是很给面子的拍打着桌子。
都知道汪大少就喜欢这个排面。
汪潮四周拱手作揖,嘴上咧开了笑道:“感谢兄弟姐妹们捧场!晚上给我使劲的造!”
吴哲三人在后面只能摇头笑笑,这汪少爷进场,气氛就是不同。
汪潮过来搂住许栋低声道:“你他妈的傻啊!那几个小子的玩笑话还当真了,你生话费请客了,接下来喝西北风啊!”
接着又教育道:“做人要知道变通,阿哲不是两个班各自给了50万吗?那是班费就得用,虽然钱在齐铭那,可只要是班级活动,那就没问题。我晚上的钱也会让齐铭去付。你个傻蛋!”
“这~这”许栋被汪潮这不要脸的行为,打击的已经没办法用语言去形容他。
吴哲这会也到了旁边,笑着对许栋道:“你这点还真得和汪潮学着点,至少以后离开学校不会吃太大亏。”
吴哲这帮同学,聪明是聪明。可都是半大的孩子,对于事情的处理还是稚嫩的很,反而是年纪最小的汪潮,在这方面是做得最好的。
“齐铭,人都到了没?”吴哲作为班长,适当的还是要问一下的。
齐铭听到吴哲问他,精致的小脸上升起一朵红霞,柔声道:“都到齐了。你有什么事吗?”
吴哲笑着说道:“事到没有,不是说晚上开班会吗?既然人到了,要不通知老张过来直接说吧!晚上既然聚会,那就别麻烦了。”
许栋听了也是点头,这等会外面聚会要是玩得正欢,还得赶回来参加班会,那不是扫兴吗?
“我看行,我也打个电话给钱老师,问问他情况?”许栋说道
吴哲示意齐铭,让他打电话。最近他和汪潮一直都吃住实验室,师母让老张打了几次电话给两人,可两人也怕麻烦老两口,一直借口忙而推掉了。
所以最近对两人有点上火,吴哲可不想这会撞枪口上。
等齐铭和许栋都打完电话后,吴哲才开口问道:“怎么说的?”
“老师在办公室,一会就下来。听声音还是蛮高兴的。”齐铭看了眼吴哲道。
许栋也是一点头,他那边也没问题。
见都没问题,吴哲对两人点点头。
招呼一声在和同学打闹的汪潮,带着沈知文和黄明海就在教室后面找了个空位。
见到吴哲的动作,齐铭脸上有点发白,许栋也在旁边暗叹了一声。
1、2班的人不是傻子,很多人都看得出齐铭是喜欢吴哲的。可想到要和唐梦抢人,那难度简直就是地狱级的。
而且吴哲也非常的注意这方面,绝不会给人任何的误会。搞暧昧或是脚踩两船的事情,吴哲不会也不屑去做。
在下面坐了会,1班导张德同和2班导师钱峰一起进了教室。
前面几届少院。1班和2班还是分开说事,有时候还有点隔阂。到了吴哲这届倒好,两个班都快成一个班了。有什么事都是一起。钱峰每次都很干脆,直接就是往老张身后一站,所有的活让老张干。
等老张讲完,他就只要来句:我和张老师的观点一致,张老师的话就是我要说的。这班主任估计也是历届最轻松的班主任了。
今天也不例外,还是往张德同后面一站,把讲台给张德同。不过这次的眼睛里可还是有羡慕闪过的。
这会教室里在两位班导进来的时候,就安静了下来。
老张先清了清嗓子道:“都到了,那我就说几句。一个学期过去了,这是你们新生的下半学期。上学期有人做的不错,有人还差点火候。不足的要在这半年里迎头赶上——”
说了一大通继往开来的话,下面的同学也都是昏昏欲睡的表情。
这时张德同突然话锋一转道:“明天早上8点,所有人操场集合。校长亲自给吴哲教授拨穗绶带。授予他博士学位,还有学校颁发的副教授聘书。”
下面一阵哗然,吴哲博士的事情他们知道,可什么时候又弄了个副教授?
“吴教授,来。上来讲两句吧!都是老熟人,你可别说你不好意思!”张德同笑着对吴哲道。
吴哲也不含糊,站起来直接道:“张老师,我的学费怎么说?还要交吗?”
朋友的一本传统科幻,喜欢歌剧式科幻的朋友可以看看,作者的书上过大封推
请收藏本站:https://www.zpxs8.cc。正品小说网手机版:https://m.zpxs8.cc
吴哲见沈知文太激动,赶紧劝道:“知文,你可别想着一口吃成胖子。按现在的技术要想达成你心中的完美构想是不可能的,一步步来。以后是大数据的时代。”
“阿哲,按你这么说的话,人工智能时代不是很快就能来临。”汪潮有点惊奇的道。
他想想电影中的画面,就感觉到有缺。
又接着问吴哲:“人工智能的出现,会不会真像电影里演的一样,对人类产生威胁。”
吴哲见三人对这个问题都很有兴趣,思考了下回答道:“在我看来,产生人工智能的时间还早,当然不排除偶然因素的出现。至于会不会对人类做出危险,那应该在于AI对于文明人类的定义。怎么样来评估人类?”
吴哲这话说出,不光是汪潮和黄明海有些发愣。连精通计算机的沈知文也没有听明白吴哲这话是什么意思。
“阿哲,伱这是什么意思?难道我们发明了它,它还能造反不成。你们不是有什么人工智能三大定律吗?我记得排首位的应该就是AI不能伤害人类吧?”汪潮诧异的问道。
“汪潮,好歹你也是学理的,骗骗外行的话,你也信?”吴哲鄙夷的笑笑,“真要出现AI生命,你就算在底层程序中设置了不伤害人类这一条规则。你信不信它能把代码倒过来用火星文重写一遍?在AI生命里就没有不能打破的规则!”
“擦,那不是完全不可控?”汪潮惊叫了声。
“那我问你,性本善,还是性本恶!”吴哲继续问道。
“阿哲,这是个哲学问题。我们学理的就不用分得那么清了吧?”黄明海在旁听得头大。
沈知文却觉着这个问题关乎智能生命很重要的一部分,忙拦住黄明海,“阿哲这里面还有什么说法吗?”
“呃,真想听?解释起来会有点拗口!”吴哲这会却不怎么想解释了,太麻烦!
“嘿,吊胃口?你越这样我们还越想听了。不就是出生下来人是好的还是坏的这一争论吗?整得这么神秘干嘛?”汪潮在旁边叫嚣。
“啪!”头上被吴哲敲了下,“让你丫的不学无术,对了。汪潮你想在金融领域更进一步,能超越西方的理论体系,我劝你多看下东方的哲学思想,多思考。”
捂着头的汪潮有些不解的看着吴哲,我一学数学的。你让我看古文?
吴哲点了汪潮一句,没再多说。有些东西要自己悟才行。
“孟子的性善论,并不是说人天性本善。而是一种本能欲望。这种欲望是发自内心的天性。荀子的性恶论当然也不是说人生下来就是恶的,这里的“性恶”是指人的欲望无限发展的趋势造成坏的结果。人的欲望是无限的,时间长了大家就会争,争则乱,乱则恶。”
“所以两人的关于“性”的理解完全不同,一个在于本能,比如吃饭,睡觉。而另一个说的是欲望不受控制而导致的后果。”
“好了,现在我们转回到AI生命上来,我刚刚说的几乎都是生命诞生意识后会出现的情况。那AI的本能是什么呢?不用吃饭和睡觉,他的本能应该就是计算和验证,然后是探索。那它会有欲望吗?而一旦不可控又会发生什么?”
“我们的历史文明对于时间和空间来说,那是一个片段,对于AI来说那就是一段数据流,而在数据流中的我们人类,也许对AI来说是比较重要的数据,而当它的欲望膨胀到认为清除我们,对于这股数据洪流有益无害时,那敌对将不可避免。所以我前面就提到过AI诞生,不在于底层逻辑,而在于它对于整个人类文明的评估。”
吴哲已经尽量用通俗的语言去解释,可三人还是听得云山雾罩的。转念想想,自己操这个心干嘛?这真出事,前面不还有高个在那顶着嘛!至少吴哲肯定会比他们考虑的要多。
“嗨,阿哲,一句话。就是以后肯定会闹翻呗!搞这东西出来,意思还得把反制他的东西一起搞出来,对吧!”汪潮大大咧咧道。
反正那不是他研究的领域,该操心的是吴哲和沈知文才是。
吴哲瞄了他一眼道:“我再打个比方,你说我们人是什么?”
这最简单的一个问题,把在场的三个人都难住了。做了这么久的人了,还真没思考过人是什么?
不等几人回答,吴哲就笑着说道:“我们人类也是有底层代码的,也就是DNA和造就情绪的那些化学物质。一则造就了物质身体,另一个则是通过生物电和一些化学物质产生了情绪,而那些情绪进一步作用而成了意识,也可以叫做灵魂。
可是我们还无法做到区分数十亿的神经单元所产生的生物电和其中的变量。但里面的规律性是显而易见的,那你们说我们是不是也是设计好的?
假设有这么个造物主,如果天天奴役你,压榨你,还天天的翻看你的DNA,不时的改改写写。让你毫无保留的袒露在外,你会怎么做?”
“那不废话?淦他丫的!”汪潮想都没想就喊道。
沈知文眉头皱得很深,吴哲的话说的已经很明白了。
看了眼吴哲道:“阿哲,这些只是你的推断,是不是真如你说的这样,还不能下定论。”
吴哲摊了摊手,他知道沈知文的意思,刚刚他的话其实不应该是从他嘴里说出来的,因为这些都没有论据,而且他刚刚的话已经涉及到造物主而不是达尔文的进化论了。
“嘿,瞎扯而已。你们还当真了啊!赶紧吃完回校。”吴哲劝道。
但他还是叮嘱了沈知文一句,“知文,你最好学一下生物学,特别是脑神经方面的,这对你以后AI方面应该会有用,我刚刚说的,那些神经元什么的,可没虚构。”
“嗯!我会学习的!我也觉得你的见解有独到之处。”沈知文点点头。
黄明海笑着道:“阿哲,你给知文还有汪潮都指明了道路,可不能厚此薄彼。看看我后面应该加强什么?”
“他什么时候给我指路了啊?我怎么不知道?”汪潮一脸问号。
“你汪大少挺聪明的一个人,这会怎么犯糊涂了?阿哲,让你学习古代的东方哲学思维。这还不明白,你什么时候见过阿哲乱讲的?”黄明海敲了敲汪潮的榆木脑袋。
“老大你以后想在物理哪个方面有所研究?”吴哲是真不知道黄明海具体的是研究哪个方面的,后来他进航天部,很多东西的是保密的,。吴哲没问过,而黄明海就更不可能说了。
“还没想好,我希望有一天,我能让我们国家的人也能上天,登月亦或者是能去火星。这是我儿时的梦想。”
这题目给得够大,吴哲也不知道该说什么。航天是个系统工程,这学科包罗万象,基本是一个国家最顶峰的技术产物。
“这我还真给不了意见,这航天工程包含的学科太多了。不过材料和动力这两个是无论如何也绕不过的课题。你可以加强一下。”
吴哲也只能给出这样的建议。
四人吃好后,又在客厅聊了会寒假里各自的趣事。看看时间差不多了,几人动身回学校。
少院的一间教室内,这届的新生则是非常热闹的在谈论寒假生活,当中也免不了说到吴哲,自己这位同学,在过年后可又是闹出些风波的。
见吴哲宿舍的四人都不见人影,很多人都跑齐铭这来打听情况。
“齐铭,吴哲和汪潮他们呢?”2班的徐栋跑过来问道。
“去校外了,汪潮说正在过来。”齐铭温温柔柔的答道。
“嘿,第一天就跑出去。准是搞聚餐去了。齐铭外面班晚上说好聚餐,你们1班怎么说?”许栋过来就是问下晚上聚会的事情。
“那还用说,这事肯定成啊!就汪潮那没事都想请客的性子,他听到聚会不要太高兴!”1班的高小成在旁边笑着道。
“那是,哪次不是我们班先搞,然后把你们班给带上。”
“许栋,这次学会抢先了,要不你们请客?”
“我看行,也得帮吴哲和汪潮两个省省了!”
1班的人这算是架秧子,直接把许栋给架了上去,这不答应肯定不行,答应的话,他倒是无所谓,可自己班里如果有意见的话,那就麻烦了。
一咬牙,要是有人不答应的话,那就干脆自己请了。
刚要答应,身后就传来了声音:“嘿!许栋,又是你个王八羔子来抢汪爷的风头,请客的事情哪轮得到你?”然后转身对着所有人大声道:“晚上,江南春!所有的消费都有汪公子买单!”
“哦!汪爷帅气!”周围的人也是很给面子的拍打着桌子。
都知道汪大少就喜欢这个排面。
汪潮四周拱手作揖,嘴上咧开了笑道:“感谢兄弟姐妹们捧场!晚上给我使劲的造!”
吴哲三人在后面只能摇头笑笑,这汪少爷进场,气氛就是不同。
汪潮过来搂住许栋低声道:“你他妈的傻啊!那几个小子的玩笑话还当真了,你生话费请客了,接下来喝西北风啊!”
接着又教育道:“做人要知道变通,阿哲不是两个班各自给了50万吗?那是班费就得用,虽然钱在齐铭那,可只要是班级活动,那就没问题。我晚上的钱也会让齐铭去付。你个傻蛋!”
“这~这”许栋被汪潮这不要脸的行为,打击的已经没办法用语言去形容他。
吴哲这会也到了旁边,笑着对许栋道:“你这点还真得和汪潮学着点,至少以后离开学校不会吃太大亏。”
吴哲这帮同学,聪明是聪明。可都是半大的孩子,对于事情的处理还是稚嫩的很,反而是年纪最小的汪潮,在这方面是做得最好的。
“齐铭,人都到了没?”吴哲作为班长,适当的还是要问一下的。
齐铭听到吴哲问他,精致的小脸上升起一朵红霞,柔声道:“都到齐了。你有什么事吗?”
吴哲笑着说道:“事到没有,不是说晚上开班会吗?既然人到了,要不通知老张过来直接说吧!晚上既然聚会,那就别麻烦了。”
许栋听了也是点头,这等会外面聚会要是玩得正欢,还得赶回来参加班会,那不是扫兴吗?
“我看行,我也打个电话给钱老师,问问他情况?”许栋说道
吴哲示意齐铭,让他打电话。最近他和汪潮一直都吃住实验室,师母让老张打了几次电话给两人,可两人也怕麻烦老两口,一直借口忙而推掉了。
所以最近对两人有点上火,吴哲可不想这会撞枪口上。
等齐铭和许栋都打完电话后,吴哲才开口问道:“怎么说的?”
“老师在办公室,一会就下来。听声音还是蛮高兴的。”齐铭看了眼吴哲道。
许栋也是一点头,他那边也没问题。
见都没问题,吴哲对两人点点头。
招呼一声在和同学打闹的汪潮,带着沈知文和黄明海就在教室后面找了个空位。
见到吴哲的动作,齐铭脸上有点发白,许栋也在旁边暗叹了一声。
1、2班的人不是傻子,很多人都看得出齐铭是喜欢吴哲的。可想到要和唐梦抢人,那难度简直就是地狱级的。
而且吴哲也非常的注意这方面,绝不会给人任何的误会。搞暧昧或是脚踩两船的事情,吴哲不会也不屑去做。
在下面坐了会,1班导张德同和2班导师钱峰一起进了教室。
前面几届少院。1班和2班还是分开说事,有时候还有点隔阂。到了吴哲这届倒好,两个班都快成一个班了。有什么事都是一起。钱峰每次都很干脆,直接就是往老张身后一站,所有的活让老张干。
等老张讲完,他就只要来句:我和张老师的观点一致,张老师的话就是我要说的。这班主任估计也是历届最轻松的班主任了。
今天也不例外,还是往张德同后面一站,把讲台给张德同。不过这次的眼睛里可还是有羡慕闪过的。
这会教室里在两位班导进来的时候,就安静了下来。
老张先清了清嗓子道:“都到了,那我就说几句。一个学期过去了,这是你们新生的下半学期。上学期有人做的不错,有人还差点火候。不足的要在这半年里迎头赶上——”
说了一大通继往开来的话,下面的同学也都是昏昏欲睡的表情。
这时张德同突然话锋一转道:“明天早上8点,所有人操场集合。校长亲自给吴哲教授拨穗绶带。授予他博士学位,还有学校颁发的副教授聘书。”
下面一阵哗然,吴哲博士的事情他们知道,可什么时候又弄了个副教授?
“吴教授,来。上来讲两句吧!都是老熟人,你可别说你不好意思!”张德同笑着对吴哲道。
吴哲也不含糊,站起来直接道:“张老师,我的学费怎么说?还要交吗?”
朋友的一本传统科幻,喜欢歌剧式科幻的朋友可以看看,作者的书上过大封推
请收藏本站:https://www.zpxs8.cc。正品小说网手机版:https://m.zpxs8.cc